LibreAI ENESPTDEFRRUJA
← Todas as categorias// local-llm

As melhores ferramentas de LLM local de código aberto

Execute modelos de linguagem grandes no seu próprio computador.

126 ferramentas · 💎 77 joias escondidas

// comece aqui

Comece aqui

Os projetos com mais estrelas desta categoria, mais uma seleção rotativa de outros três do restante da lista: renovada para que todo o catálogo tenha sua vez na vitrine.

LLM local

Ollama

The simplest way to run open language models on your own machine.

★ 182,1 mil estrelasMIT
Ver o guia →
LLM local

Open Webui

User-friendly AI Interface (Supports Ollama, OpenAI API, ...)

★ 153,9 mil estrelasCustom (check repo)
Ver o guia →
LLM local

llama.cpp

LLM inference in C/C++

★ 130,2 mil estrelasMIT
Ver o guia →
LLM local

chatgpt-subtitle-translator

Token efficient translation utility built on ChatGPT or any OpenAI compatible LLM.

★ 389 estrelasMIT
Ver o guia →
LLM local

whatcanirun

Find the best local models for your hardware — and how to run them.

★ 247 estrelasMIT
Ver o guia →
LLM local

vLLM

A high-throughput and memory-efficient inference and serving engine for LLMs

★ 93,1 mil estrelasApache-2.0
Ver o guia →

Mais categorias: VídeoImagemÁudioMúsica com IAIA 3DRecortesChat com IAAgentes de IARAG e conhecimentoAutomaçãoProdutividadeFerramentas de desenvolvimentoDesignEscritaAutohospedadoInstalação fácil

// sobre esta categoria

As melhores ferramentas de LLM local de código aberto

As ferramentas de LLM local permitem executar modelos de linguagem grandes inteiramente no seu próprio hardware: runtimes que servem os modelos, aplicativos de desktop que os envolvem em interfaces de chat e lançadores que gerenciam downloads, quantização e configurações para você.

Rodar localmente inverte os compromissos habituais: sem contas por token, sem prompts saindo da sua máquina e modelos que continuam funcionando offline — em troca de respostas limitadas pelo seu hardware. Os modelos quantizados são o truque principal, encolhendo modelos grandes para caber em GPUs de consumo e até em CPUs.

Como escolher

  • Comece pelo seu hardware: os guias partem de que você adapta o tamanho do modelo à sua VRAM ou RAM, e não o contrário.
  • Se você quer construir por cima, escolha um runtime com API local; se só quer conversar, escolha um aplicativo de desktop.
  • O nível de quantização é um botão de qualidade: os níveis médios costumam ser o ponto ideal para máquinas domésticas.
// perguntas frequentes

Perguntas frequentes

Quais ferramentas de LLM local de código aberto estão incluídas aqui?

Esta página reúne 126 projetos de LLM local de código aberto selecionados pelo LibreAI: Execute modelos de linguagem grandes no seu próprio computador. Cada um é verificado no GitHub e tem sua própria página de guia com uma visão geral, passos de instalação, casos de uso e perguntas frequentes.

Estas ferramentas de LLM local são gratuitas?

Sim. Toda ferramenta aqui é de código aberto e gratuita para baixar e usar sob sua própria licença: a maioria usa MIT, Apache-2.0 ou GPL-3.0, e qualquer licença personalizada de código disponível é sinalizada na página da ferramenta. Verifique o arquivo LICENSE antes do uso comercial.

O LibreAI hospeda estas ferramentas?

Não. O LibreAI publica apenas guias; nenhum download é servido a partir deste site. Toda instalação vem do repositório oficial do projeto no GitHub.

Como instalo uma ferramenta de LLM local a partir desta página?

Abra o guia da ferramenta e siga a seção «Execute você mesmo» dele: os passos vêm da documentação do próprio projeto. Ou use o botão «Ver no GitHub» para ir direto ao repositório oficial.

Como estas ferramentas foram escolhidas?

Cada projeto é verificado em tempo real pela API do GitHub — estrelas, forks, licença e atividade recente — e só é listado se tiver impulso real e uma comunidade ativa.

Que tamanho de modelo o meu computador consegue rodar?

Como formato aproximado: modelos quantizados precisam de um pouco mais de memória do que seu tamanho em disco. Um modelo de 8B em quantização média cabe confortavelmente em 8 GB de VRAM ou de RAM compartilhada; modelos maiores pedem mais. Cada guia segue os requisitos declarados pelo próprio projeto.

Modelos locais são tão bons quanto os grandes hospedados?

Os maiores modelos abertos são fortes em chat, resumos e ajuda com código, e rodam de forma privada e offline. Os modelos hospedados de fronteira ainda lideram no raciocínio mais difícil: a troca local é privacidade, custo e controle por um degrau de capacidade.