Tài khoản GitHub của tổ chức sgl-project có một loạt các kho mã nguồn công khai, tập trung vào các công nghệ như Python, Go, và C++. Một số kho nổi bật bao gồm sglang, mini-sglang và SpecForge, phục vụ cho việc phát triển các mô hình ngôn ngữ lớn và các hệ thống phục vụ LLM.
Ngôn ngữ hàng đầu
Kho lưu trữ công khai
sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
mini-sglang
A compact implementation of SGLang, designed to demystify the complexities of modern LLM serving systems.
SpecForge
Train speculative decoding models effortlessly and port them smoothly to SGLang serving.
sgl-learning-materials
Materials for learning SGLang
sglang-omni
SGLang Omni: High-Performance Multi-Stage Pipeline Framework for Omni Models
genai-bench
Genai-bench is a powerful benchmark tool designed for comprehensive token-level performance evaluation of large language model (LLM) serving systems.
sglang-jax
JAX backend for SGL
rbg
A workload for deploying LLM inference services on Kubernetes
sgl-kernel-npu
SGLang kernel library for NPU
sgl-project.github.io
This is the documentation repository for SGLang. It is auto-generated from https://github.com/sgl-project/sglang
DeepGEMM
DeepGEMM: clean and efficient FP8 GEMM kernels with fine-grained scaling
sgl-kernel-xpu
SGLang kernel library for Intel XPU
whl
SGLang Kernel Wheel Index
sgl-flash-attn
Fast and memory-efficient exact attention
sgl-whl
SGLang wheels for multiple platforms
sgl-cookbook
Cookbook of SGLang - Recipe
sgl-eval
Không có mô tả nào được cung cấp cho kho lưu trữ này.
sgl-docs
Không có mô tả nào được cung cấp cho kho lưu trữ này.
cuLA
Không có mô tả nào được cung cấp cho kho lưu trữ này.
fast-hadamard-transform
Fast Hadamard transform in CUDA, with a PyTorch interface
ci-data
Không có mô tả nào được cung cấp cho kho lưu trữ này.
sglang-ci-stats
Không có mô tả nào được cung cấp cho kho lưu trữ này.
rbg-api
Không có mô tả nào được cung cấp cho kho lưu trữ này.
sgl-test-files
The test files for SGLang.
FlashMLA
FlashMLA: Efficient Multi-head Latent Attention Kernels
ome-crd
Không có mô tả nào được cung cấp cho kho lưu trữ này.
Câu hỏi thường gặp
sgl-project xây dựng gì trên GitHub?
sgl-project phát triển nhiều dự án liên quan đến mô hình ngôn ngữ lớn, bao gồm sglang và SpecForge. Các dự án này giúp tối ưu hóa quá trình phục vụ và đào tạo các mô hình ngôn ngữ.
Ngôn ngữ lập trình nào được sgl-project sử dụng?
sgl-project chủ yếu sử dụng các ngôn ngữ lập trình như Python, Go, C++, cùng với Jupyter Notebook và Cuda. Những ngôn ngữ này hỗ trợ cho việc phát triển các ứng dụng hiệu suất cao.
Các kho lưu trữ của sgl-project có công khai không?
Có, tất cả các kho lưu trữ của sgl-project đều là công khai trên GitHub. Điều này cho phép cộng đồng truy cập và đóng góp vào các dự án của tổ chức.
Liệu việc lộ thông tin này có dự định không?
Theo dõi sgl-project với RepoGuard và nhận cảnh báo ngay khi có kho lưu trữ công khai mới xuất hiện.
Theo dõi tài khoản này