LibreAI / LLM locaux / llamafile
// local-llm · mozilla-ai/llamafile

llamafile

llamafile est un projet de LLM locaux open source, créé par mozilla-ai (mozilla-ai/llamafile sur GitHub). Il compte 26 164 étoiles sur GitHub et 1 636 forks, il est publié sous la licence Unknown et a été mis à jour pour la dernière fois sur GitHub le 1er octobre 2026.

Distribute and run LLMs with a single file.

★ 26,2 k étoiles⑂ 1,6 k forksUnknownmis à jour oct. 2026
▦ visuel — le README de ce projet ne contient aucune capture intégrable,
voici donc un emplacement réservé. Le guide ci-dessous est complet malgré tout.
// détails du projet

Détails du projet

Étoiles GitHub
26 164
Forks
1 636
Licence
Unknown
Dernière mise à jour sur GitHub
1er octobre 2026
Catégorie
LLM locaux
Type de fiche
Guide d'installation complet
Site officiel
Official site
// fonctionnement

Comment ça marche

  1. Install the runtime

    One binary or app gets you a working local model setup.

  2. Download a model

    Pick a size that fits your RAM/VRAM; smaller models run on laptops.

  3. Chat or integrate

    Use the built-in UI, or point OpenAI-compatible clients at it.

  4. Go private

    Airplane mode works — your prompts never leave the device.

// fonctionnalités

Pourquoi on l'adore

Extensible

RAG, tools, and agents build on the same base.

Quantized efficiency

Smart compression runs big models on modest hardware.

Offline capable

Works on planes, in basements, behind firewalls.

Model choice

Swap between hundreds of open models freely.

OpenAI-compatible APIs

Existing tools plug in by changing one URL.

Document chat

Ask questions over your PDFs, notes, and codebases.

Advertisement
// lancez-le

Lancez-le vous-même

  1. Step 1 — Clone the repo

    Download the source and move into the project folder.

    git clone https://github.com/mozilla-ai/llamafile.git
    cd llamafile
  2. Step 2 — Check the README

    Every project documents its own setup; start with install requirements.

    cat README.md | head -60
  3. Step 3 — Run it

    Follow the project's launch command — Docker, pip, npm, or a binary release.

    # see README for the exact launch command
// cas d'usage

Ce que vous pouvez créer

Advertisement
// faq

Questions fréquentes

Who maintains llamafile?

It is an open-source project at mozilla-ai/llamafile with 1,636 forks. Check the repo's contributors and recent commits to see how active maintenance is.

Is llamafile free for commercial use?

Licensed under Unknown — check the repo for commercial-use terms.

What hardware do I need?

8B models run on 16GB RAM; bigger models want a real GPU.

Which model should I start with?

A recent 8–32B instruct model is the sweet spot for most machines.

Is it really private?

Yes — with no network calls, there's nothing to leak.

// continuez l'exploration

Outils similaires

LLM locaux

DeskcommCRM

Open-source AI sales OS — self-hosted CRM with native AI agents + WhatsApp (WAHA). Open alternative to Kommo, Octadesk & Intercom for any business that sells…

★ 4,4 k étoilesMIT
Voir le guide →
LLM locaux

comfyui_LLM_party

LLM Agent Framework in ComfyUI includes MCP sever, Omost,GPT-sovits, ChatTTS,GOT-OCR2.0, and FLUX prompt nodes,access to Feishu,discord,and adapts to all llm…

★ 2,4 k étoilesAGPL-3.0
Voir le guide →
LLM locaux

lobehub

🤯 LobeHub is your Chief Agent Operator, organizing your agents into 7×24 operations by hiring, scheduling, and reporting on your entire AI team.

★ 83,0 k étoilesCustom
Voir le guide →
LLM locaux

lemonade

Discover and run local AI apps, serving optimized LLMs from your own GPU and NPU.

★ 5,8 k étoilesApache-2.0
Voir le guide →
LLM locaux

BrowserAI

Run local LLMs like Llama and DeepSeek right inside your web browser.

★ 1,5 k étoilesMIT
Voir le guide →
LLM locaux

airllm

Run a 70B LLM on a single 4GB GPU — layer-by-layer inference with almost no memory tricks skipped

★ 35,5 k étoilesApache-2.0
Voir le guide →
// alternatives

Alternatives en LLM locaux

Les autres projets de la catégorie LLM locaux avec le plus d'étoiles du catalogue LibreAI — la sélection réaliste d'alternatives si llamafile ne vous convient pas.

// plus en local-llm

Plus en LLM locaux

Projets de la catégorie LLM locaux proches dans le catalogue, les plus proches en étoiles de llamafile — continuez à explorer de part et d'autre.

Obtenir llamafile

Gratuit et ouvert : récupérez le code source, mettez une étoile au dépôt et commencez à créer.