LibreAI / LLM local / llamafile
// local-llm · mozilla-ai/llamafile

llamafile

llamafile es un proyecto de LLM local de código abierto de mozilla-ai (mozilla-ai/llamafile en GitHub). Tiene 26.164 estrellas en GitHub y 1.636 bifurcaciones, se publica bajo la licencia Unknown y se actualizó por última vez en GitHub el 1 de octubre de 2026.

Distribute and run LLMs with a single file.

★ 26,2k estrellas⑂ 1,6k bifurcacionesUnknownactualizado oct 2026
▦ visual: el README de este proyecto no incluye ninguna captura incrustable,
así que aquí va un marcador. La guía de abajo está completa de todos modos.
// datos del proyecto

Datos del proyecto

Estrellas en GitHub
26.164
Bifurcaciones
1.636
Licencia
Unknown
Última actualización en GitHub
1 de octubre de 2026
Categoría
LLM local
Tipo de ficha
Guía de instalación completa
Sitio oficial
Official site
// cómo funciona

Cómo funciona

  1. Install the runtime

    One binary or app gets you a working local model setup.

  2. Download a model

    Pick a size that fits your RAM/VRAM; smaller models run on laptops.

  3. Chat or integrate

    Use the built-in UI, or point OpenAI-compatible clients at it.

  4. Go private

    Airplane mode works — your prompts never leave the device.

// características

Por qué gusta tanto

Extensible

RAG, tools, and agents build on the same base.

Quantized efficiency

Smart compression runs big models on modest hardware.

Offline capable

Works on planes, in basements, behind firewalls.

Model choice

Swap between hundreds of open models freely.

OpenAI-compatible APIs

Existing tools plug in by changing one URL.

Document chat

Ask questions over your PDFs, notes, and codebases.

Advertisement
// ejecútalo

Ejecútalo tú mismo

  1. Step 1 — Clone the repo

    Download the source and move into the project folder.

    git clone https://github.com/mozilla-ai/llamafile.git
    cd llamafile
  2. Step 2 — Check the README

    Every project documents its own setup; start with install requirements.

    cat README.md | head -60
  3. Step 3 — Run it

    Follow the project's launch command — Docker, pip, npm, or a binary release.

    # see README for the exact launch command
// casos de uso

Qué puedes crear

Advertisement
// preguntas frecuentes

Preguntas frecuentes

Who maintains llamafile?

It is an open-source project at mozilla-ai/llamafile with 1,636 forks. Check the repo's contributors and recent commits to see how active maintenance is.

Is llamafile free for commercial use?

Licensed under Unknown — check the repo for commercial-use terms.

What hardware do I need?

8B models run on 16GB RAM; bigger models want a real GPU.

Which model should I start with?

A recent 8–32B instruct model is the sweet spot for most machines.

Is it really private?

Yes — with no network calls, there's nothing to leak.

// sigue explorando

Herramientas similares

LLM local

DeskcommCRM

Open-source AI sales OS — self-hosted CRM with native AI agents + WhatsApp (WAHA). Open alternative to Kommo, Octadesk & Intercom for any business that sells…

★ 4,4k estrellasMIT
Ver la guía →
LLM local

comfyui_LLM_party

LLM Agent Framework in ComfyUI includes MCP sever, Omost,GPT-sovits, ChatTTS,GOT-OCR2.0, and FLUX prompt nodes,access to Feishu,discord,and adapts to all llm…

★ 2,4k estrellasAGPL-3.0
Ver la guía →
LLM local

lobehub

🤯 LobeHub is your Chief Agent Operator, organizing your agents into 7×24 operations by hiring, scheduling, and reporting on your entire AI team.

★ 83,0k estrellasCustom
Ver la guía →
LLM local

lemonade

Discover and run local AI apps, serving optimized LLMs from your own GPU and NPU.

★ 5,8k estrellasApache-2.0
Ver la guía →
LLM local

BrowserAI

Run local LLMs like Llama and DeepSeek right inside your web browser.

★ 1,5k estrellasMIT
Ver la guía →
LLM local

airllm

Run a 70B LLM on a single 4GB GPU — layer-by-layer inference with almost no memory tricks skipped

★ 35,5k estrellasApache-2.0
Ver la guía →
// alternativas

Alternativas en LLM local

Los demás proyectos de LLM local con más estrellas del catálogo de LibreAI: la lista realista de alternativas si llamafile no es lo que buscas.

// más en local-llm

Más en LLM local

Proyectos de LLM local cercanos en el catálogo, los más próximos en estrellas a llamafile: sigue explorando a ambos lados.

Consigue llamafile

Gratis y abierto: consigue el código fuente, dale una estrella al repositorio y empieza a crear.