// local-llm · MakazhanAlpamys/Soup

Soup

Soup est un projet de LLM locaux open source, créé par MakazhanAlpamys (MakazhanAlpamys/Soup sur GitHub). Il compte 8 063 étoiles sur GitHub et 1 297 forks, il est publié sous la licence Apache-2.0 et a été mis à jour pour la dernière fois sur GitHub le 2 octobre 2026.

Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.

★ 8,1 k étoiles⑂ 1,3 k forksApache-2.0mis à jour oct. 2026
▦ visuel — le README de ce projet ne contient aucune capture intégrable,
voici donc un emplacement réservé. Le guide ci-dessous est complet malgré tout.
// détails du projet

Détails du projet

Étoiles GitHub
8 063
Forks
1 297
Licence
Apache-2.0
Dernière mise à jour sur GitHub
2 octobre 2026
Catégorie
LLM locaux
Type de fiche
Guide d'installation complet
Site officiel
Official site
// fonctionnement

Comment ça marche

  1. Install the runtime

    One binary or app gets you a working local model setup.

  2. Download a model

    Pick a size that fits your RAM/VRAM; smaller models run on laptops.

  3. Chat or integrate

    Use the built-in UI, or point OpenAI-compatible clients at it.

  4. Go private

    Airplane mode works — your prompts never leave the device.

// fonctionnalités

Pourquoi on l'adore

Command-line friendly

Scriptable from the terminal, so it drops straight into existing workflows.

LLM-powered

Large language models drive its smartest features, locally or via API.

Offline capable

Works on planes, in basements, behind firewalls.

Model choice

Swap between hundreds of open models freely.

OpenAI-compatible APIs

Existing tools plug in by changing one URL.

Document chat

Ask questions over your PDFs, notes, and codebases.

Advertisement
// lancez-le

Lancez-le vous-même

  1. Step 1 — Clone the repo

    Download the source and move into the project folder.

    git clone https://github.com/MakazhanAlpamys/Soup.git
    cd Soup
  2. Step 2 — Check the README

    Every project documents its own setup; start with install requirements.

    cat README.md | head -60
  3. Step 3 — Run it

    Follow the project's launch command — Docker, pip, npm, or a binary release.

    # see README for the exact launch command
// cas d'usage

Ce que vous pouvez créer

Advertisement
// faq

Questions fréquentes

Who maintains Soup?

It is an open-source project at MakazhanAlpamys/Soup with 1,297 forks. Check the repo's contributors and recent commits to see how active maintenance is.

Is Soup free for commercial use?

Apache 2.0 licensed — commercial use allowed with attribution.

What hardware do I need?

8B models run on 16GB RAM; bigger models want a real GPU.

Which model should I start with?

A recent 8–32B instruct model is the sweet spot for most machines.

Is it really private?

Yes — with no network calls, there's nothing to leak.

// continuez l'exploration

Outils similaires

Productivité

MyBrain

All-in-one productivity app and AI assistant with Tasks, Notes, Calendar, Diary and Bookmarks.

★ 2,2 k étoilesGPL-3.0
Voir le guide →
RAG et connaissances

anything-llm

Stop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience

★ 66,7 k étoilesMIT
Voir le guide →
LLM locaux

AionUi

Open-source 24/7 Cowork app for OpenClaw, Hermes, Claude Code, Codex, OpenCode and 20+ more CLI Agent | Customize your assistants | Team them up|Star if you …

★ 33,3 k étoilesApache-2.0
Voir le guide →
LLM locaux

can-i-finetune-this

Check if your GPU can fine-tune an LLM — memory estimates and LoRA recipes.

★ 792 étoilesMIT
Voir le guide →
LLM locaux

Unsloth

Run and fine-tune LLMs and diffusion models locally — faster training, smaller memory footprint.

★ 77,2 k étoilesApache-2.0
Voir le guide →
LLM locaux

mlc-llm

Compile and run LLMs anywhere - phones, laptops, browsers and GPUs - with one engine

★ 23,2 k étoilesApache-2.0
Voir le guide →
// alternatives

Alternatives en LLM locaux

Les autres projets de la catégorie LLM locaux avec le plus d'étoiles du catalogue LibreAI — la sélection réaliste d'alternatives si Soup ne vous convient pas.

// plus en local-llm

Plus en LLM locaux

Projets de la catégorie LLM locaux proches dans le catalogue, les plus proches en étoiles de Soup — continuez à explorer de part et d'autre.

Obtenir Soup

Gratuit et ouvert : récupérez le code source, mettez une étoile au dépôt et commencez à créer.