// rag · llmware-ai/llmware

llmware

llmware es un proyecto de RAG y conocimiento de código abierto de llmware-ai (llmware-ai/llmware en GitHub). Tiene 14.821 estrellas en GitHub y 2.930 bifurcaciones, se publica bajo la licencia Apache-2.0 y se actualizó por última vez en GitHub el 1 de octubre de 2026.

Unified framework for enterprise RAG pipelines with small, specialized models - local, private and secure.

★ 14,8k estrellas⑂ 2,9k bifurcacionesApache-2.0actualizado oct 2026
▦ visual: el README de este proyecto no incluye ninguna captura incrustable,
así que aquí va un marcador. La guía de abajo está completa de todos modos.
// datos del proyecto

Datos del proyecto

Estrellas en GitHub
14.821
Bifurcaciones
2.930
Licencia
Apache-2.0
Última actualización en GitHub
1 de octubre de 2026
Tipo de ficha
Guía de instalación completa
Sitio oficial
Official site
// cómo funciona

Cómo funciona

  1. Decide what runs locally

    Plan your pipeline around small, specialized on-device models for privacy and cost, adding a cloud model only for steps that truly need one.

  2. Install llmware

    Add the Python package to your environment; virtually all examples and models can run on a laptop.

  3. Build a library

    Create a Library, add a folder of mixed documents (PDF, Office, text, images and more) to parse, chunk and index them, then install an embedding.

  4. Query and prompt with sources

    Run text, semantic or hybrid queries over the library and feed the results into a Prompt so answers are grounded in your documents, with evidence checks.

// características

Por qué gusta tanto

300+ model catalog

Access all models the same way through ModelCatalog, regardless of implementation - GGUF, OpenVINO, ONNX Runtime, Hugging Face, Sentence Transformers or API models.

Small specialized models

50+ llmware fine-tuned SLIM, Bling, Dragon and Industry-BERT models (roughly 1-7B parameters) designed for RAG workflows and enterprise process-automation tasks on device.

Full document ingestion

The Library add_files function parses and chunks many formats - pdf, pptx, docx, xlsx, txt, csv, md, json, wav, png, jpg, html - routed automatically by file type.

Flexible retrieval

Query libraries with text, semantic, hybrid and metadata-filtered queries, and mix and match embedding models and vector databases on the same library.

Prompt with sources

Attach files or query results directly to a Prompt as model-ready context, then run post-inference evidence checks against the sources.

Runs anywhere

Optimized for Windows, Mac and Linux across AI PC, laptop, edge and self-hosted deployments, including GPU and NPU acceleration paths.

Advertisement
// ejecútalo

Ejecútalo tú mismo

  1. Clone the repository

    Clone llmware for the full examples collection; most users install from PyPI instead.

    git clone https://github.com/llmware-ai/llmware.git
    cd llmware
  2. Install the package

    Install llmware into your Python environment.

    pip install llmware
  3. Run a first RAG example

    Load a small catalog model and ask a question with context, following the README's ModelCatalog and Prompt examples.

    python -c "from llmware.models import ModelCatalog; print(ModelCatalog().list_all_models())"  # see README examples for the full workflow
// casos de uso

Qué puedes crear

Advertisement
// preguntas frecuentes

Preguntas frecuentes

Who maintains llmware?

llmware is developed by llmware-ai (AI Bloks) with open-source contributors.

Is llmware free to use?

Yes. The framework is Apache-2.0 licensed; individual models in the catalog carry their own licenses.

Does it need a paid API key?

No for local models: the catalog's open models run on your machine. Cloud models from OpenAI, Anthropic or Google are optional and would use your own keys.

How does llmware compare with LangChain or LlamaIndex?

Those are general orchestration frameworks that assume you bring models and infrastructure; llmware bundles an optimized model catalog of small local models with the full RAG pipeline in one opinionated framework.

How do I get started?

Run pip install llmware, create a Library from a folder of documents, install an embedding, and run your first semantic query.

// sigue explorando

Herramientas similares

RAG y conocimiento

private-gpt

Complete API layer for private AI apps on local models: RAG, skills, tools, MCP and text-to-SQL

★ 57,6k estrellasApache-2.0
Ver la guía →
RAG y conocimiento

UltraRAG

A low-code MCP framework for building complex, innovative RAG pipelines — visibly, not as a black box.

★ 5,7k estrellasApache-2.0
Ver la guía →
RAG y conocimiento

llm-app

Ready-to-run templates for RAG, AI pipelines and enterprise search that stay in sync with live data

★ 58,8k estrellasMIT
Ver la guía →
RAG y conocimiento

Langchain-Chatchat

Local knowledge-base RAG and agent app built on LangChain with ChatGLM, Qwen and Llama models

★ 38,7k estrellasApache-2.0
Ver la guía →
RAG y conocimiento

docuchat.app

Private document chat for attorneys: local LLMs, verifiable citations.

★ 35 estrellasMIT
Ver la guía →
RAG y conocimiento

DocsGPT

A private AI platform for agents, assistants and enterprise search over your documents

★ 18,3k estrellasMIT
Ver la guía →
// alternativas

Alternativas en RAG y conocimiento

Los demás proyectos de RAG y conocimiento con más estrellas del catálogo de LibreAI: la lista realista de alternativas si llmware no es lo que buscas.

// más en rag

Más en RAG y conocimiento

Proyectos de RAG y conocimiento cercanos en el catálogo, los más próximos en estrellas a llmware: sigue explorando a ambos lados.

Consigue llmware

Gratis y abierto: consigue el código fuente, dale una estrella al repositorio y empieza a crear.