LLM local
Ollama
The simplest way to run open language models on your own machine.
★ 182,1k estrellasMIT
Ver la guía →Ejecuta modelos de lenguaje grandes en tu propio equipo.
Los proyectos con más estrellas de esta categoría, más una selección rotativa de otros tres de la lista: se renueva para que todo el catálogo tenga su turno en el escaparate.
The simplest way to run open language models on your own machine.
User-friendly AI Interface (Supports Ollama, OpenAI API, ...)
LLM inference in C/C++
Token efficient translation utility built on ChatGPT or any OpenAI compatible LLM.
Find the best local models for your hardware — and how to run them.
A high-throughput and memory-efficient inference and serving engine for LLMs
Run and fine-tune LLMs and diffusion models locally —…
The simplest way to run open language models on your…
A high-throughput and memory-efficient inference and…
High-performance In-browser LLM Inference Engine
Open-source desktop app for local LLMs. Text, vision,…
KoboldCpp - Run GGUF AI models locally with a KoboldAI…
Jan is an open source alternative to ChatGPT that runs…
User-friendly AI Interface (Supports Ollama, OpenAI…
Quantization, kernels, runtime and inference engine for…
LLM inference in C/C++
🤯 LobeHub is your Chief Agent Operator, organizing your…
The fastest, litest AI Gateway. Rust core with Python…
Run frontier AI locally.
Fabric is an open-source framework for augmenting…
An open platform for training, serving, and evaluating…
Hundreds of models & providers. One command to find…
Open-source 24/7 Cowork app for OpenClaw, Hermes,…
Distribute and run LLMs with a single file.
An open-source RAG-based tool for chatting with your…
🔥 MaxKB is an open-source platform for building…
Access large language models from the command-line
Typescript/React Library for AI Chat 💬🚀
Fine-tune LLMs from one YAML. Layer streaming trains an…
⚡ Pure-Rust WebGPU inference engine — OpenAI-API…
Open-source AI sales OS — self-hosted CRM with native…
GGUF Quantization support for native ComfyUI models
RamaLama is an open-source developer tool that…
Official repo for spec & SDK of MCP Apps protocol -…
Atomic Agent is a local-first AI agent. Runs…
Maid is a free and open source application for…
动手学Ollama，CPU玩转大模型部署，在线阅读地址：https://datawhalechina.githu…
LLM Agent Framework in ComfyUI includes MCP sever,…
Run AI models locally on your machine with node.js…
AI e-book reader with semantic search, RAG chat, notes,…
Local-first widget tracking token usage and costs…
Fast Rust scraper that turns web pages into clean data…
Noise-robust subtitle generator powered by Whisper and…
Run controllable pre-trained AI models locally, written…
Let any LLM actually watch a video — frames plus…
Local-first desktop where a commander LLM directs…
Sandbox for local AI agents so they only touch what…
Local API bridge to run Claude and Antigravity inside…
One shared local memory hub so every AI agent remembers…
Generate text inside Obsidian with cloud or local AI…
Desktop lab for prototyping AI agents — inspect steps,…
Personal AI agent that takes goals and works alone…
Local-first agent harness with loop, memory, and evals…
Elegant AI chat client with workspaces, plugins, and…
AI file organizer that sorts and renames files by…
AI OSINT agent with 20 tools and REPL — for authorized…
Self-evolving general AI agent running fully locally, a…
Agent hub that spins up a fresh orchestrator per task,…
Lightweight inference engine for running LLMs…
Run local LLMs like Llama and DeepSeek right inside…
Cloud-native runtime for building and running agentic…
Clean web interface for chatting with your local Ollama…
Go-built AI gateway unifying many providers with…
Local-first markdown editor that coding assistants can…
Local-first privacy guard that strips PII before…
Autonomous Android agent that sees and taps your phone…
Pixel-art desktop where your local-first AI agents…
Autonomous AI pentesting with 50 specialist agents on a…
One-command installer for a full self-hosted AI stack…
A talking LLM voice assistant that runs fully offline…
Early proposal and implementation for connecting LLMs…
Local security auditor for AI API relays — catches…
Desktop AI agent platform with one-click models and…
Check if your GPU can fine-tune an LLM — memory…
Agent-native control plane for ComfyUI — generate media…
Find the best local models for your hardware — and how…
A local workbench for multi-agent software development.
Browse and resume your AI coding-agent sessions on…
ChatGPT for your home, running on a Raspberry Pi.
Offline inference engine for art.
Pack and deploy local AI agents designed for your team…
A utility for clawBio - The first bioinformatics-native…
Local-first desktop workspace designed for running.
Agent! now supports macOS 14.6 or later, Apple Silicon…
Local-first personal knowledge layer for AI agents.
Local-first inbox designed for long-running AI agents,…
Pentest Harness — Heaven for Hackers.
Token efficient translation utility built on ChatGPT or…
Turn your AI coding chats into reusable skills with IDE…
Local-first dashboard of tokens, models, and cost for…
Private AI chat and model studio that runs in your…
Open source AI agent harness in native Rust - GUI, CLI,…
Dreaming explorable worlds: local AI assistant.
AI gets the context.
[ICML 2024] TrustLLM: LLM trustworthiness evaluation…
A cautious, explainable AI-like text risk analysis tool…
Open source, Git-native memory for AI coding agents -…
Secure MCP runtime letting AI agents operate your local…
Write an agent skill once, sync it to 32 AI coding…
Local code-intelligence MCP server and CLI for coding…
Open-source marketing agents for Claude, ChatGPT, and…
A local-first OS for building and running AI agents.
Local codebase intelligence CLI and MCP for coding…
AI-native video editing on real timelines with local…
A local-first context and memory layer for your AI…
Whisper-powered subtitle generation: Web UI, CLI, and…
Cut AI context cost with reversible, byte-exact…
18 Google Maps tools and 3 agent skills over MCP or CLI.
An AI-native local dev tool giving agents a real…
A no-install GUI for Ollama and other local LLM…
A local-first 3-in-1 AI memory layer and MCP server.
Self-hosted control plane: approve or block rogue agent…
Self-hosted local llm: turns phones into local ai agent…
Run siliconscope locally: sudoless apple silicon system…
Rustunnel, in Rust — built for self-hosted, secure…
Code-context-engine, in Python — built for save 94% on…
Run a 70B LLM on a single 4GB GPU — layer-by-layer…
Compile and run LLMs anywhere - phones, laptops,…
A fast LLM inference server for Apple Silicon, managed…
Qwen3-Coder - Alibaba's open code model series for…
Alibaba's lightweight, blazing-fast inference engine…
A lightweight vLLM implementation built from scratch in…
Open bilingual (Chinese-English) 6B chat LLM with…
vLLM-Omni — efficient inference for omni-modality…
DeepSeek-Coder-V2 — DeepSeek's open code model family…
Discover and run local AI apps, serving optimized LLMs…
Google DeepMind's Gemma open-weight LLM library —…
StepFun's open 196B MoE model that activates 11B…
TokenSpeed — a speed-of-light LLM inference engine…
GPT4All — run local LLMs on any device: a free desktop…
BitNet — Microsoft's official inference framework for…
Strata — one-click Qwen3.8-Flash-Next inference on…
Más categorías: VídeoImagenAudioMúsica con IAIA 3DRecortesChat con IAAgentes de IARAG y conocimientoAutomatizaciónProductividadHerramientas de desarrolloDiseñoEscrituraAutohospedadoInstalación fácil
Las herramientas LLM locales te permiten ejecutar modelos de lenguaje grandes por completo en tu propio hardware: motores que sirven los modelos, aplicaciones de escritorio que los envuelven en interfaces de chat y lanzadores que gestionan por ti las descargas, la cuantización y los ajustes.
Ejecutar en local invierte las contrapartidas habituales: sin facturas por token, sin mensajes que salgan de tu equipo y con modelos que siguen funcionando sin conexión, a cambio de respuestas limitadas por tu hardware. Los modelos cuantizados son el truco clave: reducen los modelos grandes para que quepan en GPU de consumo e incluso en CPU.
Esta página reúne 126 proyectos de LLM local de código abierto seleccionados por LibreAI: Ejecuta modelos de lenguaje grandes en tu propio equipo. Cada uno está verificado en GitHub y tiene su propia página guía con una descripción, pasos de instalación, casos de uso y preguntas frecuentes.
Sí. Toda herramienta aquí es de código abierto y gratuita para descargar y usar bajo su propia licencia: la mayoría usa MIT, Apache-2.0 o GPL-3.0, y cualquier licencia personalizada de código disponible está señalada en la página de la herramienta. Comprueba el archivo LICENSE antes de un uso comercial.
No. LibreAI publica solo guías; desde este sitio no se sirve ninguna descarga. Toda instalación procede del repositorio oficial de GitHub del proyecto.
Abre la guía de la herramienta y sigue su sección «Ejecútalo tú mismo» — los pasos proceden de la documentación del propio proyecto — o usa el botón «Ver en GitHub» para ir directamente al repositorio oficial.
Cada proyecto se verifica en directo a través de la API de GitHub — estrellas, bifurcaciones, licencia y actividad reciente — y se lista solo si tiene impulso real y una comunidad activa.
Como forma aproximada: los modelos cuantizados necesitan algo más de memoria que su tamaño en disco. Un modelo de 8B con una cuantización media cabe cómodamente en 8 GB de VRAM o de RAM compartida; los modelos más grandes piden más. Cada guía sigue los requisitos que indica el propio proyecto.
Los modelos abiertos más grandes son sólidos en chat, resúmenes y ayuda con código, y funcionan en privado y sin conexión. Los modelos alojados de frontera siguen por delante en el razonamiento más difícil: el cambio local es privacidad, coste y control a cambio de un escalón de capacidad.