sgl-project की सार्वजनिक GitHub उपस्थिति में 26 विभिन्न रिपॉजिटरी शामिल हैं, जिनमें Python, Go, C++, HTML, Cuda, और JavaScript जैसी भाषाएँ प्रमुख हैं। इसके प्रमुख प्रोजेक्ट्स में SGLang और mini-sglang शामिल हैं, जो बड़े भाषा मॉडल और मल्टीमॉडल मॉडल के लिए उच्च प्रदर्शन वाले फ्रेमवर्क प्रदान करते हैं।
शीर्ष भाषाएँ
सार्वजनिक रिपोजिटरी
sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
mini-sglang
A compact implementation of SGLang, designed to demystify the complexities of modern LLM serving systems.
SpecForge
Train speculative decoding models effortlessly and port them smoothly to SGLang serving.
sgl-learning-materials
Materials for learning SGLang
sglang-omni
SGLang Omni: High-Performance Multi-Stage Pipeline Framework for Omni Models
genai-bench
Genai-bench is a powerful benchmark tool designed for comprehensive token-level performance evaluation of large language model (LLM) serving systems.
sglang-jax
JAX backend for SGL
rbg
A workload for deploying LLM inference services on Kubernetes
sgl-kernel-npu
SGLang kernel library for NPU
sgl-project.github.io
This is the documentation repository for SGLang. It is auto-generated from https://github.com/sgl-project/sglang
DeepGEMM
DeepGEMM: clean and efficient FP8 GEMM kernels with fine-grained scaling
sgl-kernel-xpu
SGLang kernel library for Intel XPU
whl
SGLang Kernel Wheel Index
sgl-flash-attn
Fast and memory-efficient exact attention
sgl-whl
SGLang wheels for multiple platforms
sgl-cookbook
Cookbook of SGLang - Recipe
sgl-eval
इस रिपोजिटरी के लिए कोई विवरण प्रदान नहीं किया गया।
sgl-docs
इस रिपोजिटरी के लिए कोई विवरण प्रदान नहीं किया गया।
cuLA
इस रिपोजिटरी के लिए कोई विवरण प्रदान नहीं किया गया।
fast-hadamard-transform
Fast Hadamard transform in CUDA, with a PyTorch interface
ci-data
इस रिपोजिटरी के लिए कोई विवरण प्रदान नहीं किया गया।
sglang-ci-stats
इस रिपोजिटरी के लिए कोई विवरण प्रदान नहीं किया गया।
rbg-api
इस रिपोजिटरी के लिए कोई विवरण प्रदान नहीं किया गया।
sgl-test-files
The test files for SGLang.
FlashMLA
FlashMLA: Efficient Multi-head Latent Attention Kernels
ome-crd
इस रिपोजिटरी के लिए कोई विवरण प्रदान नहीं किया गया।
अक्सर पूछे जाने वाले प्रश्न
sgl-project GitHub पर क्या बनाता है?
sgl-project मुख्य रूप से बड़े भाषा मॉडल के लिए सर्वर फ्रेमवर्क विकसित करता है, जिसमें SGLang और उसके छोटे संस्करण mini-sglang शामिल हैं। इसके अलावा, यह विभिन्न उपकरणों और दस्तावेज़ों का भी निर्माण करता है जो LLM सर्विंग से संबंधित हैं।
sgl-project कौन सी प्रोग्रामिंग भाषाएँ उपयोग करता है?
sgl-project मुख्य रूप से Python, Go, C++, HTML, Cuda, और JavaScript जैसी भाषाओं का उपयोग करता है। ये भाषाएँ इसके विभिन्न प्रोजेक्ट्स और रिपॉजिटरी में देखी जा सकती हैं।
क्या sgl-project की रिपॉजिटरी सार्वजनिक हैं?
हाँ, sgl-project की सभी रिपॉजिटरी सार्वजनिक हैं। यह उपयोगकर्ताओं को उनके प्रोजेक्ट्स और विकास कार्यों का उपयोग करने और उन पर योगदान करने की अनुमति देती हैं।
क्या यह एक्सपोजर इरादा है?
RepoGuard के साथ sgl-project की निगरानी करें और जैसे ही एक नया सार्वजनिक रिपोजिटरी बनता है, सूचित हों।
इस खाते की निगरानी करें