// local-llm · MakazhanAlpamys/Soup

Soup

Soup é um projeto de LLM local de código aberto de MakazhanAlpamys (MakazhanAlpamys/Soup no GitHub). Tem 8.063 estrelas no GitHub e 1.297 forks, é publicado sob a licença Apache-2.0 e foi atualizado pela última vez no GitHub em 2 de outubro de 2026.

Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.

★ 8,1 mil estrelas⑂ 1,3 mil forksApache-2.0atualizado out 2026
▦ visual: o README deste projeto não inclui nenhuma captura incorporável,
então aqui vai um marcador. O guia abaixo está completo mesmo assim.
// dados do projeto

Dados do projeto

Estrelas no GitHub
8.063
Forks
1.297
Licença
Apache-2.0
Última atualização no GitHub
2 de outubro de 2026
Categoria
LLM local
Tipo de ficha
Guia de instalação completo
Site oficial
Official site
// como funciona

Como funciona

  1. Install the runtime

    One binary or app gets you a working local model setup.

  2. Download a model

    Pick a size that fits your RAM/VRAM; smaller models run on laptops.

  3. Chat or integrate

    Use the built-in UI, or point OpenAI-compatible clients at it.

  4. Go private

    Airplane mode works — your prompts never leave the device.

// recursos

Por que as pessoas gostam tanto

Command-line friendly

Scriptable from the terminal, so it drops straight into existing workflows.

LLM-powered

Large language models drive its smartest features, locally or via API.

Offline capable

Works on planes, in basements, behind firewalls.

Model choice

Swap between hundreds of open models freely.

OpenAI-compatible APIs

Existing tools plug in by changing one URL.

Document chat

Ask questions over your PDFs, notes, and codebases.

Advertisement
// execute você mesmo

Execute você mesmo

  1. Step 1 — Clone the repo

    Download the source and move into the project folder.

    git clone https://github.com/MakazhanAlpamys/Soup.git
    cd Soup
  2. Step 2 — Check the README

    Every project documents its own setup; start with install requirements.

    cat README.md | head -60
  3. Step 3 — Run it

    Follow the project's launch command — Docker, pip, npm, or a binary release.

    # see README for the exact launch command
// casos de uso

O que você pode criar

Advertisement
// perguntas frequentes

Perguntas frequentes

Who maintains Soup?

It is an open-source project at MakazhanAlpamys/Soup with 1,297 forks. Check the repo's contributors and recent commits to see how active maintenance is.

Is Soup free for commercial use?

Apache 2.0 licensed — commercial use allowed with attribution.

What hardware do I need?

8B models run on 16GB RAM; bigger models want a real GPU.

Which model should I start with?

A recent 8–32B instruct model is the sweet spot for most machines.

Is it really private?

Yes — with no network calls, there's nothing to leak.

// continue explorando

Ferramentas semelhantes

Produtividade

MyBrain

All-in-one productivity app and AI assistant with Tasks, Notes, Calendar, Diary and Bookmarks.

★ 2,2 mil estrelasGPL-3.0
Ver o guia →
RAG e conhecimento

anything-llm

Stop renting your intelligence. Own it with AnythingLLM. Everything you need for a powerful local-first agent experience

★ 66,7 mil estrelasMIT
Ver o guia →
LLM local

AionUi

Open-source 24/7 Cowork app for OpenClaw, Hermes, Claude Code, Codex, OpenCode and 20+ more CLI Agent | Customize your assistants | Team them up|Star if you …

★ 33,3 mil estrelasApache-2.0
Ver o guia →
LLM local

can-i-finetune-this

Check if your GPU can fine-tune an LLM — memory estimates and LoRA recipes.

★ 792 estrelasMIT
Ver o guia →
LLM local

Unsloth

Run and fine-tune LLMs and diffusion models locally — faster training, smaller memory footprint.

★ 77,2 mil estrelasApache-2.0
Ver o guia →
LLM local

mlc-llm

Compile and run LLMs anywhere - phones, laptops, browsers and GPUs - with one engine

★ 23,2 mil estrelasApache-2.0
Ver o guia →
// alternativas

Alternativas em LLM local

Os outros projetos de LLM local com mais estrelas no catálogo do LibreAI — a lista realista de alternativas se Soup não for o ideal para você.

// mais em local-llm

Mais em LLM local

Projetos de LLM local próximos no catálogo, os mais próximos em estrelas de Soup: continue explorando dos dois lados dele.

Baixe o Soup

Grátis e aberto: pegue o código-fonte, dê uma estrela no repositório e comece a criar.