sgl-project memiliki kehadiran publik yang signifikan di GitHub dengan berbagai repositori yang berfokus pada pengembangan model bahasa dan sistem pemrosesan multimodal. Beberapa repositori yang menonjol termasuk sglang, mini-sglang, dan SpecForge, yang dibangun menggunakan bahasa pemrograman seperti Python, Go, dan C++. Ini menunjukkan komitmen organisasi dalam menyediakan alat dan sumber daya untuk penelitian dan pengembangan di bidang ini.
Bahasa teratas
Repositori publik
sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
mini-sglang
A compact implementation of SGLang, designed to demystify the complexities of modern LLM serving systems.
SpecForge
Train speculative decoding models effortlessly and port them smoothly to SGLang serving.
sgl-learning-materials
Materials for learning SGLang
sglang-omni
SGLang Omni: High-Performance Multi-Stage Pipeline Framework for Omni Models
genai-bench
Genai-bench is a powerful benchmark tool designed for comprehensive token-level performance evaluation of large language model (LLM) serving systems.
sglang-jax
JAX backend for SGL
rbg
A workload for deploying LLM inference services on Kubernetes
sgl-kernel-npu
SGLang kernel library for NPU
sgl-project.github.io
This is the documentation repository for SGLang. It is auto-generated from https://github.com/sgl-project/sglang
DeepGEMM
DeepGEMM: clean and efficient FP8 GEMM kernels with fine-grained scaling
sgl-kernel-xpu
SGLang kernel library for Intel XPU
whl
SGLang Kernel Wheel Index
sgl-flash-attn
Fast and memory-efficient exact attention
sgl-whl
SGLang wheels for multiple platforms
sgl-cookbook
Cookbook of SGLang - Recipe
sgl-eval
Tidak ada deskripsi yang diberikan untuk repositori ini.
sgl-docs
Tidak ada deskripsi yang diberikan untuk repositori ini.
cuLA
Tidak ada deskripsi yang diberikan untuk repositori ini.
fast-hadamard-transform
Fast Hadamard transform in CUDA, with a PyTorch interface
ci-data
Tidak ada deskripsi yang diberikan untuk repositori ini.
sglang-ci-stats
Tidak ada deskripsi yang diberikan untuk repositori ini.
rbg-api
Tidak ada deskripsi yang diberikan untuk repositori ini.
sgl-test-files
The test files for SGLang.
FlashMLA
FlashMLA: Efficient Multi-head Latent Attention Kernels
ome-crd
Tidak ada deskripsi yang diberikan untuk repositori ini.
Pertanyaan yang sering diajukan
Apa yang dibangun oleh sgl-project di GitHub?
sgl-project membangun berbagai alat dan kerangka kerja untuk pemodelan bahasa dan pemrosesan multimodal. Proyek-proyek seperti sglang dan mini-sglang bertujuan untuk menyederhanakan penggunaan model bahasa besar dalam aplikasi praktis.
Bahasa pemrograman apa yang digunakan oleh sgl-project?
sgl-project menggunakan beberapa bahasa pemrograman termasuk Python, Go, C++, Jupyter Notebook, dan Cuda. Bahasa-bahasa ini mendukung pengembangan repositori mereka yang berfokus pada pemodelan bahasa dan infrastruktur terkait.
Apakah repositori sgl-project bersifat publik?
Ya, semua repositori sgl-project di GitHub bersifat publik. Ini memungkinkan pengembang dan peneliti lain untuk mengakses, mempelajari, dan berkontribusi pada proyek-proyek yang tersedia.
Apakah paparan ini dimaksudkan?
Pantau sgl-project dengan RepoGuard dan dapatkan pemberitahuan saat repositori publik baru muncul.
Pantau akun ini