De organisatie sgl-project heeft een aanzienlijke aanwezigheid op GitHub, met een breed scala aan openbare repositories. De belangrijkste programmeertalen die worden gebruikt zijn Python, Go en C++. Opvallende projecten zijn onder andere sglang, een framework voor het serveren van grote taalmodellen, en mini-sglang, een compacte implementatie van sglang.
Top talen
Publieke repositories
sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
mini-sglang
A compact implementation of SGLang, designed to demystify the complexities of modern LLM serving systems.
SpecForge
Train speculative decoding models effortlessly and port them smoothly to SGLang serving.
sgl-learning-materials
Materials for learning SGLang
sglang-omni
SGLang Omni: High-Performance Multi-Stage Pipeline Framework for Omni Models
genai-bench
Genai-bench is a powerful benchmark tool designed for comprehensive token-level performance evaluation of large language model (LLM) serving systems.
sglang-jax
JAX backend for SGL
rbg
A workload for deploying LLM inference services on Kubernetes
sgl-kernel-npu
SGLang kernel library for NPU
sgl-project.github.io
This is the documentation repository for SGLang. It is auto-generated from https://github.com/sgl-project/sglang
DeepGEMM
DeepGEMM: clean and efficient FP8 GEMM kernels with fine-grained scaling
sgl-kernel-xpu
SGLang kernel library for Intel XPU
whl
SGLang Kernel Wheel Index
sgl-flash-attn
Fast and memory-efficient exact attention
sgl-whl
SGLang wheels for multiple platforms
sgl-cookbook
Cookbook of SGLang - Recipe
sgl-eval
Geen beschrijving gegeven voor deze repository.
sgl-docs
Geen beschrijving gegeven voor deze repository.
cuLA
Geen beschrijving gegeven voor deze repository.
fast-hadamard-transform
Fast Hadamard transform in CUDA, with a PyTorch interface
ci-data
Geen beschrijving gegeven voor deze repository.
sglang-ci-stats
Geen beschrijving gegeven voor deze repository.
rbg-api
Geen beschrijving gegeven voor deze repository.
sgl-test-files
The test files for SGLang.
FlashMLA
FlashMLA: Efficient Multi-head Latent Attention Kernels
ome-crd
Geen beschrijving gegeven voor deze repository.
Veelgestelde vragen
Wat bouwt sgl-project op GitHub?
sgl-project ontwikkelt verschillende softwareprojecten, waaronder sglang, een framework voor het serveren van grote taalmodellen en mini-sglang, dat gericht is op het vereenvoudigen van moderne LLM-servering.
Welke programmeertalen gebruikt sgl-project?
De belangrijkste programmeertalen die sgl-project gebruikt zijn Python, Go, C++, HTML, Cuda en JavaScript, wat de veelzijdigheid van hun projecten benadrukt.
Zijn de repositories van sgl-project openbaar?
Ja, de repositories van sgl-project zijn openbaar. Dit maakt het mogelijk voor anderen om de projecten te verkennen en bij te dragen aan de ontwikkeling van hun software.
Is deze blootstelling bedoeld?
Monitor sgl-project met RepoGuard en krijg een waarschuwing op het moment dat er een nieuwe publieke repository verschijnt.
Monitor dit account