sgl-project, GitHub'da geniş bir kamu varlığına sahiptir ve Python, Go, C++, Jupyter Notebook gibi birçok programlama dilinde projeler geliştirmektedir. SGLang ve mini-sglang gibi dikkat çekici repoları, büyük dil modelleri ve çok modlu modeller için yüksek performanslı sunum çerçeveleri sunmaktadır.
En popüler diller
Kamu depoları
sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
mini-sglang
A compact implementation of SGLang, designed to demystify the complexities of modern LLM serving systems.
SpecForge
Train speculative decoding models effortlessly and port them smoothly to SGLang serving.
sgl-learning-materials
Materials for learning SGLang
sglang-omni
SGLang Omni: High-Performance Multi-Stage Pipeline Framework for Omni Models
genai-bench
Genai-bench is a powerful benchmark tool designed for comprehensive token-level performance evaluation of large language model (LLM) serving systems.
sglang-jax
JAX backend for SGL
rbg
A workload for deploying LLM inference services on Kubernetes
sgl-kernel-npu
SGLang kernel library for NPU
sgl-project.github.io
This is the documentation repository for SGLang. It is auto-generated from https://github.com/sgl-project/sglang
DeepGEMM
DeepGEMM: clean and efficient FP8 GEMM kernels with fine-grained scaling
sgl-kernel-xpu
SGLang kernel library for Intel XPU
whl
SGLang Kernel Wheel Index
sgl-flash-attn
Fast and memory-efficient exact attention
sgl-whl
SGLang wheels for multiple platforms
sgl-cookbook
Cookbook of SGLang - Recipe
sgl-eval
Bu depo için açıklama sağlanmadı.
sgl-docs
Bu depo için açıklama sağlanmadı.
cuLA
Bu depo için açıklama sağlanmadı.
fast-hadamard-transform
Fast Hadamard transform in CUDA, with a PyTorch interface
ci-data
Bu depo için açıklama sağlanmadı.
sglang-ci-stats
Bu depo için açıklama sağlanmadı.
rbg-api
Bu depo için açıklama sağlanmadı.
sgl-test-files
The test files for SGLang.
FlashMLA
FlashMLA: Efficient Multi-head Latent Attention Kernels
ome-crd
Bu depo için açıklama sağlanmadı.
Sıkça sorulan sorular
sgl-project GitHub'da ne tür projeler geliştiriyor?
sgl-project, büyük dil modelleri için sunum çerçeveleri ve eğitim materyalleri gibi projeler geliştirmektedir. SGLang ve SpecForge gibi repolar, bu alandaki önemli çalışmalardır.
sgl-project hangi programlama dillerini kullanıyor?
sgl-project, başlıca Python, Go, C++, Jupyter Notebook ve Cuda dillerinde projeler geliştirmektedir. Bu diller, projelerin çeşitliliğini ve işlevselliğini artırmaktadır.
sgl-project'in repoları kamuya açık mı?
Evet, sgl-project'in tüm repoları kamuya açıktır. Bu, kullanıcıların projelere erişimini ve katkıda bulunmalarını kolaylaştırmaktadır.
Bu ifşa amaçlı mı?
sgl-project ile RepoGuard'ı izleyin ve yeni bir kamu deposu belirdiğinde anında uyarı alın.
Bu hesabı izleyin