Die Organisation sgl-project hat eine bedeutende Präsenz auf GitHub mit einer Vielzahl öffentlicher Repositories. Zu den Hauptprogrammiersprachen gehören Python, Go und C++. Bedeutende Projekte wie sglang und mini-sglang konzentrieren sich auf die Bereitstellung von Lösungen für große Sprachmodelle und deren einfache Nutzung.
Top-Sprachen
Öffentliche Repositories
sglang
SGLang is a high-performance serving framework for large language models and multimodal models.
mini-sglang
A compact implementation of SGLang, designed to demystify the complexities of modern LLM serving systems.
SpecForge
Train speculative decoding models effortlessly and port them smoothly to SGLang serving.
sgl-learning-materials
Materials for learning SGLang
sglang-omni
SGLang Omni: High-Performance Multi-Stage Pipeline Framework for Omni Models
genai-bench
Genai-bench is a powerful benchmark tool designed for comprehensive token-level performance evaluation of large language model (LLM) serving systems.
sglang-jax
JAX backend for SGL
rbg
A workload for deploying LLM inference services on Kubernetes
sgl-kernel-npu
SGLang kernel library for NPU
sgl-project.github.io
This is the documentation repository for SGLang. It is auto-generated from https://github.com/sgl-project/sglang
DeepGEMM
DeepGEMM: clean and efficient FP8 GEMM kernels with fine-grained scaling
sgl-kernel-xpu
SGLang kernel library for Intel XPU
whl
SGLang Kernel Wheel Index
sgl-flash-attn
Fast and memory-efficient exact attention
sgl-whl
SGLang wheels for multiple platforms
sgl-cookbook
Cookbook of SGLang - Recipe
sgl-eval
Keine Beschreibung für dieses Repository vorhanden.
sgl-docs
Keine Beschreibung für dieses Repository vorhanden.
cuLA
Keine Beschreibung für dieses Repository vorhanden.
fast-hadamard-transform
Fast Hadamard transform in CUDA, with a PyTorch interface
ci-data
Keine Beschreibung für dieses Repository vorhanden.
sglang-ci-stats
Keine Beschreibung für dieses Repository vorhanden.
rbg-api
Keine Beschreibung für dieses Repository vorhanden.
sgl-test-files
The test files for SGLang.
FlashMLA
FlashMLA: Efficient Multi-head Latent Attention Kernels
ome-crd
Keine Beschreibung für dieses Repository vorhanden.
Häufige Fragen
Was entwickelt sgl-project auf GitHub?
sgl-project entwickelt verschiedene Tools und Frameworks, insbesondere im Bereich der großen Sprachmodelle. Zu den wichtigsten Repositories zählen sglang, mini-sglang und SpecForge, die alle auf die Effizienz von Sprachmodellen abzielen.
Welche Programmiersprachen verwendet sgl-project?
sgl-project nutzt hauptsächlich Python, Go und C++. Diese Sprachen sind in den meisten ihrer Repositories vertreten, darunter sglang und rbg, die sich mit der Bereitstellung und dem Betrieb von LLM-Diensten beschäftigen.
Sind die Repositories von sgl-project öffentlich?
Ja, alle Repositories von sgl-project sind öffentlich zugänglich. Dies ermöglicht es der Entwicklergemeinschaft, die Projekte zu nutzen, zu studieren und zur Weiterentwicklung beizutragen.
Ist diese Sichtbarkeit gewollt?
Überwache sgl-project mit RepoGuard und werde benachrichtigt, sobald ein neues öffentliches Repository auftaucht.
Diesen Account überwachen