A organização sgl-project possui uma presença significativa no GitHub, com uma variedade de repositórios públicos focados principalmente em linguagens como Python, Go e C++. Entre seus projetos notáveis estão o sglang, um framework de alta performance para modelos de linguagem, e o mini-sglang, que simplifica a implementação de sistemas de servir modelos de linguagem modernos.
Principais linguagens
Repositórios públicos
sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
mini-sglang
A compact implementation of SGLang, designed to demystify the complexities of modern LLM serving systems.
SpecForge
Train speculative decoding models effortlessly and port them smoothly to SGLang serving.
sgl-learning-materials
Materials for learning SGLang
sglang-omni
SGLang Omni: High-Performance Multi-Stage Pipeline Framework for Omni Models
genai-bench
Genai-bench is a powerful benchmark tool designed for comprehensive token-level performance evaluation of large language model (LLM) serving systems.
sglang-jax
JAX backend for SGL
rbg
A workload for deploying LLM inference services on Kubernetes
sgl-kernel-npu
SGLang kernel library for NPU
sgl-project.github.io
This is the documentation repository for SGLang. It is auto-generated from https://github.com/sgl-project/sglang
DeepGEMM
DeepGEMM: clean and efficient FP8 GEMM kernels with fine-grained scaling
sgl-kernel-xpu
SGLang kernel library for Intel XPU
whl
SGLang Kernel Wheel Index
sgl-flash-attn
Fast and memory-efficient exact attention
sgl-whl
SGLang wheels for multiple platforms
sgl-cookbook
Cookbook of SGLang - Recipe
sgl-eval
Nenhuma descrição fornecida para este repositório.
sgl-docs
Nenhuma descrição fornecida para este repositório.
cuLA
Nenhuma descrição fornecida para este repositório.
fast-hadamard-transform
Fast Hadamard transform in CUDA, with a PyTorch interface
ci-data
Nenhuma descrição fornecida para este repositório.
sglang-ci-stats
Nenhuma descrição fornecida para este repositório.
rbg-api
Nenhuma descrição fornecida para este repositório.
sgl-test-files
The test files for SGLang.
FlashMLA
FlashMLA: Efficient Multi-head Latent Attention Kernels
ome-crd
Nenhuma descrição fornecida para este repositório.
Perguntas frequentes
O que a sgl-project constrói no GitHub?
A sgl-project desenvolve uma gama de repositórios focados em frameworks e ferramentas para modelos de linguagem, incluindo projetos como sglang e mini-sglang, que atendem a necessidades específicas na área de inteligência artificial.
Quais linguagens de programação a sgl-project utiliza?
Os principais idiomas utilizados pela sgl-project incluem Python, Go, C++, Jupyter Notebook e Cuda. Essas linguagens suportam o desenvolvimento de suas ferramentas e frameworks avançados para modelos de linguagem.
Os repositórios da sgl-project são públicos?
Sim, todos os repositórios da sgl-project são públicos no GitHub, permitindo que desenvolvedores acessem e contribuam com projetos como SpecForge e sgl-learning-materials, promovendo colaboração e transparência.
Essa exposição é intencional?
Monitore sgl-project com o RepoGuard e receba alertas no momento em que um novo repositório público aparecer.
Monitore esta conta