El usuario sgl-project en GitHub alberga una variedad de repositorios públicos que se centran en el desarrollo de modelos de lenguaje y sistemas de inferencia. Entre sus proyectos más destacados se encuentran sglang, mini-sglang y SpecForge, todos escritos en Python. Además, utilizan otros lenguajes como Go, C++ y Jupyter Notebook para apoyar sus iniciativas de investigación y desarrollo.
Principales lenguajes
Repositorios públicos
sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
mini-sglang
A compact implementation of SGLang, designed to demystify the complexities of modern LLM serving systems.
SpecForge
Train speculative decoding models effortlessly and port them smoothly to SGLang serving.
sgl-learning-materials
Materials for learning SGLang
sglang-omni
SGLang Omni: High-Performance Multi-Stage Pipeline Framework for Omni Models
genai-bench
Genai-bench is a powerful benchmark tool designed for comprehensive token-level performance evaluation of large language model (LLM) serving systems.
sglang-jax
JAX backend for SGL
rbg
A workload for deploying LLM inference services on Kubernetes
sgl-kernel-npu
SGLang kernel library for NPU
sgl-project.github.io
This is the documentation repository for SGLang. It is auto-generated from https://github.com/sgl-project/sglang
DeepGEMM
DeepGEMM: clean and efficient FP8 GEMM kernels with fine-grained scaling
sgl-kernel-xpu
SGLang kernel library for Intel XPU
whl
SGLang Kernel Wheel Index
sgl-flash-attn
Fast and memory-efficient exact attention
sgl-whl
SGLang wheels for multiple platforms
sgl-cookbook
Cookbook of SGLang - Recipe
sgl-eval
No se proporcionó descripción para este repositorio.
sgl-docs
No se proporcionó descripción para este repositorio.
cuLA
No se proporcionó descripción para este repositorio.
fast-hadamard-transform
Fast Hadamard transform in CUDA, with a PyTorch interface
ci-data
No se proporcionó descripción para este repositorio.
sglang-ci-stats
No se proporcionó descripción para este repositorio.
rbg-api
No se proporcionó descripción para este repositorio.
sgl-test-files
The test files for SGLang.
FlashMLA
FlashMLA: Efficient Multi-head Latent Attention Kernels
ome-crd
No se proporcionó descripción para este repositorio.
Preguntas frecuentes
¿Qué construye sgl-project en GitHub?
sgl-project desarrolla herramientas y marcos de trabajo relacionados con modelos de lenguaje, incluyendo SGLang y mini-sglang, que permiten la inferencia y entrenamiento de modelos de lenguaje a gran escala. También ofrecen materiales educativos para facilitar el aprendizaje de estas tecnologías.
¿Qué lenguajes de programación utiliza sgl-project?
sgl-project utiliza varios lenguajes de programación en sus repositorios, siendo Python el más predominante. También emplean Go, C++, Jupyter Notebook y Cuda en sus proyectos, lo que refleja una diversidad en sus enfoques de desarrollo.
¿Son públicos los repositorios de sgl-project?
Sí, todos los repositorios de sgl-project son públicos en GitHub, lo que permite a los desarrolladores y a la comunidad acceder a sus proyectos y contribuir a ellos. Esto fomenta la colaboración y la transparencia en el desarrollo de sus herramientas.
¿Esta exposición es intencionada?
Monitorea a sgl-project con RepoGuard y recibe alertas en el momento en que aparece un nuevo repositorio público.
Monitorea esta cuenta