LibreAI / RAG & Wissen / anything-llm
// rag · Mintplex-Labs/anything-llm

anything-llm

anything-llm ist ein Open-Source-Projekt aus der Kategorie RAG & Wissen von Mintplex-Labs (Mintplex-Labs/anything-llm auf GitHub). Es hat 66.695 Sterne auf GitHub und 7.442 Forks, wird unter der Lizenz MIT veröffentlicht und wurde zuletzt am 3. Oktober 2026 auf GitHub aktualisiert.

Stop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience

★ 66,7 Tsd. Sterne⑂ 7,4 Tsd. ForksMITaktualisiert Okt 2026
▦ Visual — das README dieses Projekts enthält keinen einbettbaren Screenshot,
darum hier ein Platzhalter. Die Anleitung unten ist trotzdem vollständig.
// projektdaten

Projektdaten

GitHub-Sterne
66.695
Forks
7.442
Lizenz
MIT
Zuletzt auf GitHub aktualisiert
3. Oktober 2026
Kategorie
RAG & Wissen
Eintragstyp
Vollständige Installationsanleitung
Offizielle Website
Official site
// so funktioniert es

So funktioniert es

  1. Install the runtime

    One binary or app gets you a working local model setup.

  2. Download a model

    Pick a size that fits your RAM/VRAM; smaller models run on laptops.

  3. Chat or integrate

    Use the built-in UI, or point OpenAI-compatible clients at it.

  4. Go private

    Airplane mode works — your prompts never leave the device.

// funktionen

Warum es so beliebt ist

No subscriptions

Pay nothing per token, ever.

100% private

Prompts and documents stay on your hardware, always.

Extensible

RAG, tools, and agents build on the same base.

Quantized efficiency

Smart compression runs big models on modest hardware.

Offline capable

Works on planes, in basements, behind firewalls.

Model choice

Swap between hundreds of open models freely.

Advertisement
// selbst ausführen

Führe es selbst aus

  1. Step 1 — Clone the repo

    Download the source and move into the project folder.

    git clone https://github.com/Mintplex-Labs/anything-llm.git
    cd anything-llm
  2. Step 2 — Check the README

    Every project documents its own setup; start with install requirements.

    cat README.md | head -60
  3. Step 3 — Run it

    Follow the project's launch command — Docker, pip, npm, or a binary release.

    # see README for the exact launch command
// anwendungsfälle

Was du damit bauen kannst

The Local LLM shelf also holds pentest-harness — Heaven for Hackers.

Advertisement
// häufige fragen

Häufige Fragen

Who maintains anything-llm?

It is an open-source project at Mintplex-Labs/anything-llm with 7,442 forks. Check the repo's contributors and recent commits to see how active maintenance is.

Is anything-llm free for commercial use?

MIT licensed — use it commercially, no strings attached.

Is it really private?

Yes — with no network calls, there's nothing to leak.

Are local models as good as GPT-4?

Close on many tasks now; frontier cloud models still lead on hard reasoning.

What hardware do I need?

8B models run on 16GB RAM; bigger models want a real GPU.

// weiter entdecken

Ähnliche Tools

Lokale LLMs

MaxKB

🔥 MaxKB is an open-source platform for building enterprise-grade agents. 强大易用的开源企业级智能体平台。

★ 22,9 Tsd. SterneGPL-3.0
Anleitung ansehen →
Lokale LLMs

ramalama

RamaLama is an open-source developer tool that simplifies the local serving of AI models from any source and facilitates their use for inference in productio…

★ 3,1 Tsd. SterneMIT
Anleitung ansehen →
Lokale LLMs

node-llama-cpp

Run AI models locally on your machine with node.js bindings for llama.cpp. Enforce a JSON schema on the model output on the generation level

★ 2,2 Tsd. SterneMIT
Anleitung ansehen →
RAG & Wissen

AutoRAG

An agent that finds anything on your computer — federated search over your files, in place.

★ 5,1 Tsd. SterneMIT
Anleitung ansehen →
RAG & Wissen

llm-wiki-agent

A personal knowledge base that builds itself — drop in sources, get a persistent interlinked wiki.

★ 3,6 Tsd. SterneMIT
Anleitung ansehen →
RAG & Wissen

uteke

Self-hosted rag & knowledge: 🧠 the brain for your ai — local-first memory engine for.

★ 268 SterneApache-2.0
Anleitung ansehen →
// alternativen

Alternativen im Bereich RAG & Wissen

Die anderen Projekte der Kategorie RAG & Wissen mit den meisten Sternen im LibreAI-Katalog — die realistische Auswahl, falls anything-llm nicht das Richtige ist.

// mehr in rag

Mehr in RAG & Wissen

Verwandte Projekte der Kategorie RAG & Wissen im Katalog, die anything-llm bei den Sternen am nächsten stehen — zum Weiterstöbern auf beiden Seiten.

Hol dir anything-llm

Kostenlos und offen — hol dir den Quellcode, gib dem Repository einen Stern und leg los.