LibreAI / RAG & Wissen / private-gpt
// rag · zylon-ai/private-gpt

private-gpt

private-gpt ist ein Open-Source-Projekt aus der Kategorie RAG & Wissen von zylon-ai (zylon-ai/private-gpt auf GitHub). Es hat 57.562 Sterne auf GitHub und 7.620 Forks, wird unter der Lizenz Apache-2.0 veröffentlicht und wurde zuletzt am 8. Oktober 2026 auf GitHub aktualisiert.

Complete API layer for private AI apps on local models: RAG, skills, tools, MCP and text-to-SQL

★ 57,6 Tsd. Sterne⑂ 7,6 Tsd. ForksApache-2.0aktualisiert Okt 2026
▦ Visual — das README dieses Projekts enthält keinen einbettbaren Screenshot,
darum hier ein Platzhalter. Die Anleitung unten ist trotzdem vollständig.
// projektdaten

Projektdaten

GitHub-Sterne
57.562
Forks
7.620
Lizenz
Apache-2.0
Zuletzt auf GitHub aktualisiert
8. Oktober 2026
Kategorie
RAG & Wissen
Eintragstyp
Vollständige Installationsanleitung
Offizielle Website
Official site
// so funktioniert es

So funktioniert es

  1. Clarify your goal

    Decide what you want from private-gpt and check the README and requirements to confirm it fits your setup and Python environment.

  2. Get the code

    Clone the repository from GitHub (github.com/zylon-ai/private-gpt) or use the documented install channel if you do not need the source.

  3. Install and configure

    Follow the README quickstart to install dependencies and set any required configuration or credentials.

  4. Run your first task

    Work through the README's first example end to end, then adapt it to your own project or data.

// funktionen

Warum es so beliebt ist

Private RAG API

A complete API layer for retrieval-augmented generation over your documents, fully private.

Skills and tools

Supports skills, tools and MCP on top of local models.

Text-to-SQL

Includes text-to-SQL capabilities for querying structured data in natural language.

Any OpenAI-compatible server

Works with any OpenAI-compatible inference server, not one locked backend.

Claude API compatibility

Offers a Claude-compatible API surface, per the README.

On-premise first

Designed for on-premise deployment so documents never leave your infrastructure.

Advertisement
// selbst ausführen

Führe es selbst aus

  1. Clone the repository

    Start by getting the source and entering the project directory.

    git clone https://github.com/zylon-ai/private-gpt.git
    cd private-gpt
  2. Install PrivateGPT

    On macOS use Homebrew, or install as a uv tool with the project's wheel index.

    brew install private-gpt
  3. Start the server

    Launch PrivateGPT and ingest documents through its API or UI.

    private-gpt  # see README for the exact command
// anwendungsfälle

Was du damit bauen kannst

The RAG & Knowledge shelf also holds nano-graphrag — a small, hackable GraphRAG implementation in about 1,100 lines — no Microsoft GraphRAG bulk. The RAG & Knowledge shelf also holds libratory — In TypeScript — built for your free book and audiobook laboratory. turn the... Readers working through the RAG & Knowledge shelf also stop at deeplake, Deep Lake — a multimodal datalake and vector store for AI, with version control and training streaming.

Advertisement
// häufige fragen

Häufige Fragen

Who maintains private-gpt?

It is maintained by zylon-ai and contributors on GitHub, where the repository github.com/zylon-ai/private-gpt is the canonical home for code, issues and releases.

Is private-gpt free to use?

Yes — it is open source under the Apache-2.0 license. Read the license in the repository for what is permitted, including any conditions on redistribution or commercial use.

Does it need a paid API key?

No paid key required — it runs local models through your chosen inference server.

How does private-gpt compare to alternatives?

Compared with Ollama or LM Studio alone: PrivateGPT adds the application API layer — RAG, tools, MCP and text-to-SQL — on top of a local inference server.

How do I get started?

Clone github.com/zylon-ai/private-gpt, follow the README quickstart to install it, and run the documented first example before adapting it to your own work.

// weiter entdecken

Ähnliche Tools

RAG & Wissen

llmware

Unified framework for enterprise RAG pipelines with small, specialized models - local, private and secure.

★ 14,8 Tsd. SterneApache-2.0
Anleitung ansehen →
RAG & Wissen

Langchain-Chatchat

Local knowledge-base RAG and agent app built on LangChain with ChatGLM, Qwen and Llama models

★ 38,7 Tsd. SterneApache-2.0
Anleitung ansehen →
RAG & Wissen

LEANN

The smallest vector index in the world: private RAG over everything on your laptop with 97% less storage.

★ 13,0 Tsd. SterneMIT
Anleitung ansehen →
RAG & Wissen

deep-searcher

DeepSearcher — open-source deep research over your private data, with reasoning models and Milvus retrieval.

★ 8,3 Tsd. SterneApache-2.0
Anleitung ansehen →
RAG & Wissen

SQLBot

SQLBot — DataEase's conversational analytics: ask in natural language, get SQL answers via LLMs plus RAG.

★ 6,9 Tsd. SterneGPL-3.0
Anleitung ansehen →
RAG & Wissen

UltraRAG

A low-code MCP framework for building complex, innovative RAG pipelines — visibly, not as a black box.

★ 5,7 Tsd. SterneApache-2.0
Anleitung ansehen →
// alternativen

Alternativen im Bereich RAG & Wissen

Die anderen Projekte der Kategorie RAG & Wissen mit den meisten Sternen im LibreAI-Katalog — die realistische Auswahl, falls private-gpt nicht das Richtige ist.

// mehr in rag

Mehr in RAG & Wissen

Verwandte Projekte der Kategorie RAG & Wissen im Katalog, die private-gpt bei den Sternen am nächsten stehen — zum Weiterstöbern auf beiden Seiten.

Hol dir private-gpt

Kostenlos und offen — hol dir den Quellcode, gib dem Repository einen Stern und leg los.