ローカルLLM
Ollama
The simplest way to run open language models on your own machine.
★ 182.1k スターMIT
ガイドを見る →このカテゴリで最もスターの多いプロジェクトに、一覧の奥から入れ替えで選んだ3件を加えた顔ぶれです — カタログ全体が順番に表に出るよう更新しています。
The simplest way to run open language models on your own machine.
User-friendly AI Interface (Supports Ollama, OpenAI API, ...)
LLM inference in C/C++
Token efficient translation utility built on ChatGPT or any OpenAI compatible LLM.
Find the best local models for your hardware — and how to run them.
A high-throughput and memory-efficient inference and serving engine for LLMs
Run and fine-tune LLMs and diffusion models locally —…
The simplest way to run open language models on your…
A high-throughput and memory-efficient inference and…
High-performance In-browser LLM Inference Engine
Open-source desktop app for local LLMs. Text, vision,…
KoboldCpp - Run GGUF AI models locally with a KoboldAI…
Jan is an open source alternative to ChatGPT that runs…
User-friendly AI Interface (Supports Ollama, OpenAI…
Quantization, kernels, runtime and inference engine for…
LLM inference in C/C++
🤯 LobeHub is your Chief Agent Operator, organizing your…
The fastest, litest AI Gateway. Rust core with Python…
Run frontier AI locally.
Fabric is an open-source framework for augmenting…
An open platform for training, serving, and evaluating…
Hundreds of models & providers. One command to find…
Open-source 24/7 Cowork app for OpenClaw, Hermes,…
Distribute and run LLMs with a single file.
An open-source RAG-based tool for chatting with your…
🔥 MaxKB is an open-source platform for building…
Access large language models from the command-line
Typescript/React Library for AI Chat 💬🚀
Fine-tune LLMs from one YAML. Layer streaming trains an…
⚡ Pure-Rust WebGPU inference engine — OpenAI-API…
Open-source AI sales OS — self-hosted CRM with native…
GGUF Quantization support for native ComfyUI models
RamaLama is an open-source developer tool that…
Official repo for spec & SDK of MCP Apps protocol -…
Atomic Agent is a local-first AI agent. Runs…
Maid is a free and open source application for…
动手学Ollama，CPU玩转大模型部署，在线阅读地址：https://datawhalechina.githu…
LLM Agent Framework in ComfyUI includes MCP sever,…
Run AI models locally on your machine with node.js…
AI e-book reader with semantic search, RAG chat, notes,…
Local-first widget tracking token usage and costs…
Fast Rust scraper that turns web pages into clean data…
Noise-robust subtitle generator powered by Whisper and…
Run controllable pre-trained AI models locally, written…
Let any LLM actually watch a video — frames plus…
Local-first desktop where a commander LLM directs…
Sandbox for local AI agents so they only touch what…
Local API bridge to run Claude and Antigravity inside…
One shared local memory hub so every AI agent remembers…
Generate text inside Obsidian with cloud or local AI…
Desktop lab for prototyping AI agents — inspect steps,…
Personal AI agent that takes goals and works alone…
Local-first agent harness with loop, memory, and evals…
Elegant AI chat client with workspaces, plugins, and…
AI file organizer that sorts and renames files by…
AI OSINT agent with 20 tools and REPL — for authorized…
Self-evolving general AI agent running fully locally, a…
Agent hub that spins up a fresh orchestrator per task,…
Lightweight inference engine for running LLMs…
Run local LLMs like Llama and DeepSeek right inside…
Cloud-native runtime for building and running agentic…
Clean web interface for chatting with your local Ollama…
Go-built AI gateway unifying many providers with…
Local-first markdown editor that coding assistants can…
Local-first privacy guard that strips PII before…
Autonomous Android agent that sees and taps your phone…
Pixel-art desktop where your local-first AI agents…
Autonomous AI pentesting with 50 specialist agents on a…
One-command installer for a full self-hosted AI stack…
A talking LLM voice assistant that runs fully offline…
Early proposal and implementation for connecting LLMs…
Local security auditor for AI API relays — catches…
Desktop AI agent platform with one-click models and…
Check if your GPU can fine-tune an LLM — memory…
Agent-native control plane for ComfyUI — generate media…
Find the best local models for your hardware — and how…
A local workbench for multi-agent software development.
Browse and resume your AI coding-agent sessions on…
ChatGPT for your home, running on a Raspberry Pi.
Offline inference engine for art.
Pack and deploy local AI agents designed for your team…
A utility for clawBio - The first bioinformatics-native…
Local-first desktop workspace designed for running.
Agent! now supports macOS 14.6 or later, Apple Silicon…
Local-first personal knowledge layer for AI agents.
Local-first inbox designed for long-running AI agents,…
Pentest Harness — Heaven for Hackers.
Token efficient translation utility built on ChatGPT or…
Turn your AI coding chats into reusable skills with IDE…
Local-first dashboard of tokens, models, and cost for…
Private AI chat and model studio that runs in your…
Open source AI agent harness in native Rust - GUI, CLI,…
Dreaming explorable worlds: local AI assistant.
AI gets the context.
[ICML 2024] TrustLLM: LLM trustworthiness evaluation…
A cautious, explainable AI-like text risk analysis tool…
Open source, Git-native memory for AI coding agents -…
Secure MCP runtime letting AI agents operate your local…
Write an agent skill once, sync it to 32 AI coding…
Local code-intelligence MCP server and CLI for coding…
Open-source marketing agents for Claude, ChatGPT, and…
A local-first OS for building and running AI agents.
Local codebase intelligence CLI and MCP for coding…
AI-native video editing on real timelines with local…
A local-first context and memory layer for your AI…
Whisper-powered subtitle generation: Web UI, CLI, and…
Cut AI context cost with reversible, byte-exact…
18 Google Maps tools and 3 agent skills over MCP or CLI.
An AI-native local dev tool giving agents a real…
A no-install GUI for Ollama and other local LLM…
A local-first 3-in-1 AI memory layer and MCP server.
Self-hosted control plane: approve or block rogue agent…
Self-hosted local llm: turns phones into local ai agent…
Run siliconscope locally: sudoless apple silicon system…
Rustunnel, in Rust — built for self-hosted, secure…
Code-context-engine, in Python — built for save 94% on…
Run a 70B LLM on a single 4GB GPU — layer-by-layer…
Compile and run LLMs anywhere - phones, laptops,…
A fast LLM inference server for Apple Silicon, managed…
Qwen3-Coder - Alibaba's open code model series for…
Alibaba's lightweight, blazing-fast inference engine…
A lightweight vLLM implementation built from scratch in…
Open bilingual (Chinese-English) 6B chat LLM with…
vLLM-Omni — efficient inference for omni-modality…
DeepSeek-Coder-V2 — DeepSeek's open code model family…
Discover and run local AI apps, serving optimized LLMs…
Google DeepMind's Gemma open-weight LLM library —…
StepFun's open 196B MoE model that activates 11B…
TokenSpeed — a speed-of-light LLM inference engine…
GPT4All — run local LLMs on any device: a free desktop…
BitNet — Microsoft's official inference framework for…
Strata — one-click Qwen3.8-Flash-Next inference on…
他のカテゴリ： 動画画像音声AI音楽AI 3D切り抜き動画AIチャットAIエージェントRAG・知識ベース自動化生産性開発ツールデザインライティングセルフホスト簡単インストール
ローカルLLMツールを使えば、大規模言語モデルを完全に自分のハードウェアで実行できます。モデルを提供するランタイム、それらをチャットインターフェースで包むデスクトップアプリ、ダウンロードや量子化、設定を代わりに管理してくれるランチャーがあります。
ローカル実行は通常のトレードオフを反転させます。トークンごとの請求はなく、プロンプトがマシンの外に出ることもなく、モデルはオフラインでも動き続けます。その代わり、答えは自分のハードウェアの範囲内に限られます。鍵となる工夫が量子化モデルで、大きなモデルをコンシューマGPUやCPUにまで収まるよう圧縮します。
このページには、LibreAIが厳選したオープンソースのローカルLLMプロジェクトが126件集まっています — 大規模言語モデルを自分のマシンで実行できます。 すべてGitHubで検証され、それぞれに概要、インストール手順、活用例、FAQを備えた専用のガイドページがあります。
はい。ここにあるすべてのツールはオープンソースで、それぞれのライセンスの下で無料でダウンロードして使用できます。ほとんどはMIT、Apache-2.0、GPL-3.0を使い、カスタムなソースアベイラブル・ライセンスがある場合は、そのツールのページに明記されています。商用利用の前にLICENSEファイルを確認してください。
いいえ。LibreAIが公開するのはガイドだけです — このサイトからダウンロードが提供されることはありません。インストールはすべて、プロジェクトの公式GitHubリポジトリから行われます。
ツールのガイドを開き、「自分で実行してみる」セクションの手順に従ってください — 手順はプロジェクト自身のドキュメントから取られています — あるいは「GitHubで見る」ボタンで公式リポジトリへ直接移動できます。
すべてのプロジェクトはGitHub APIで直接検証されています — スター、フォーク、ライセンス、最近の活動 — そして、本物の勢いと活発なコミュニティがある場合にのみ掲載されます。
大まかな目安として、量子化モデルはディスク上のサイズより少し多めのメモリを必要とします。中程度の量子化をした8Bモデルは、8GBのVRAMや共有RAMに快適に収まります。より大きなモデルにはそれ以上の容量が必要です。各ガイドはプロジェクト自身が示す要件に沿っています。
最大級のオープンモデルは、チャット、要約、コーディング支援に強く、プライベートに、オフラインで動きます。最難関の推論ではホスト型の最先端モデルが依然リードしています。ローカルでの交換は、プライバシー・費用・コントロールと、一段の能力差です。