LibreAI / KI-Agenten / sglang
// agents · sgl-project/sglang

sglang

sglang ist ein Open-Source-Projekt aus der Kategorie KI-Agenten von sgl-project (sgl-project/sglang auf GitHub). Es hat 36.854 Sterne auf GitHub und 9.370 Forks, wird unter der Lizenz Apache-2.0 veröffentlicht und wurde zuletzt am 8. Oktober 2026 auf GitHub aktualisiert.

High-performance serving for the LLMs that power your agents.

★ 36,9 Tsd. Sterne⑂ 9,4 Tsd. ForksApache-2.0aktualisiert Okt 2026
▦ Visual — das README dieses Projekts enthält keinen einbettbaren Screenshot,
darum hier ein Platzhalter. Die Anleitung unten ist trotzdem vollständig.
// projektdaten

Projektdaten

GitHub-Sterne
36.854
Forks
9.370
Lizenz
Apache-2.0
Zuletzt auf GitHub aktualisiert
8. Oktober 2026
Kategorie
KI-Agenten
Eintragstyp
Vollständige Installationsanleitung
Offizielle Website
Official site
// so funktioniert es

So funktioniert es

  1. Clarify your goal

    Decide what you want the project to do before installing anything.

  2. Clone the repo

    Grab the source and skim the README for setup requirements.

  3. Install and configure

    Install dependencies and add any API keys or settings it needs.

  4. Run your first task

    Launch it and follow the example workflow from the docs.

// funktionen

Warum es so beliebt ist

High throughput

Optimized serving for demanding agent loops.

Multimodal support

Serves vision-and-language models too.

Modern GPUs

CUDA and Blackwell-era optimizations.

Broad model support

DeepSeek, GLM, GPT-OSS, diffusion models.

Python-based

Familiar stack for ML teams.

Apache-2.0

Open and commercially friendly.

Advertisement
// selbst ausführen

Führe es selbst aus

  1. Step 1 - Clone the repo

    Download the source and move into the project folder.

    git clone https://github.com/sgl-project/sglang.git
    cd sglang
  2. Step 2 - Install dependencies

    Create a virtual environment and install the requirements.

    python -m venv .venv && source .venv/bin/activate
    pip install -r requirements.txt
  3. Step 3 - Run an example

    Treat these as starting points - the README documents the exact commands.

    python examples/quickstart.py
// anwendungsfälle

Was du damit bauen kannst

Advertisement
// häufige fragen

Häufige Fragen

Who maintains sglang?

It is an open-source project at sgl-project/sglang with 9370 forks. Check the repo's contributors and recent commits to judge how active maintenance is.

Is sglang free to use?

Yes - it is Apache-2.0 licensed, so it is free for commercial use with attribution.

Do I need a paid API to use it?

No - this is infrastructure you run on your own hardware, so there is no per-request fee.

Do I need this if I use a hosted API?

No - SGLang is for self-hosting. If you call OpenAI, Anthropic, or similar APIs, you don't need a serving framework at all.

How do I get started?

Clone the repo, read the README's quickstart, and run the provided example - most projects get you to a first result in minutes.

// weiter entdecken

Ähnliche Tools

KI-Agenten

gortex

Gortex, in Go — built for high-performance code-intelligence engine for ai agents.

★ 1,9 Tsd. SterneApache-2.0
Anleitung ansehen →
KI-Agenten

AgentBench

A rigorous benchmark for LLMs acting as agents.

★ 3,8 Tsd. SterneApache-2.0
Anleitung ansehen →
KI-Agenten

qdrant

A high-performance vector search engine for next-gen AI.

★ 35,0 Tsd. SterneApache-2.0
Anleitung ansehen →
KI-Agenten

deepteam

Open-source red-teaming framework that stress-tests LLMs and AI agents.

★ 3,0 Tsd. SterneApache-2.0
Anleitung ansehen →
KI-Agenten

AI-fundamentals

Chinese-language course on AI basics: GPU architecture, CUDA, LLMs, and agents.

★ 2,9 Tsd. SterneApache-2.0
Anleitung ansehen →
KI-Agenten

codebase-memory-mcp

High-performance code intelligence MCP server: your codebase as a persistent knowledge graph

★ 46,1 Tsd. SterneMIT
Anleitung ansehen →
// alternativen

Alternativen im Bereich KI-Agenten

Die anderen Projekte der Kategorie KI-Agenten mit den meisten Sternen im LibreAI-Katalog — die realistische Auswahl, falls sglang nicht das Richtige ist.

// mehr in agents

Mehr in KI-Agenten

Verwandte Projekte der Kategorie KI-Agenten im Katalog, die sglang bei den Sternen am nächsten stehen — zum Weiterstöbern auf beiden Seiten.

Hol dir sglang

Kostenlos und offen — hol dir den Quellcode, gib dem Repository einen Stern und leg los.