LibreAI / LLM local / ramalama
// local-llm · containers/ramalama

ramalama

ramalama es un proyecto de LLM local de código abierto de containers (containers/ramalama en GitHub). Tiene 3.069 estrellas en GitHub y 378 bifurcaciones, se publica bajo la licencia MIT y se actualizó por última vez en GitHub el 3 de octubre de 2026.

RamaLama is an open-source developer tool that simplifies the local serving of AI models from any source and facilitates their use for inference in productio…

★ 3,1k estrellas⑂ 378 bifurcacionesMITactualizado oct 2026
▦ visual: el README de este proyecto no incluye ninguna captura incrustable,
así que aquí va un marcador. La guía de abajo está completa de todos modos.
// datos del proyecto

Datos del proyecto

Estrellas en GitHub
3.069
Bifurcaciones
378
Licencia
MIT
Última actualización en GitHub
3 de octubre de 2026
Categoría
LLM local
Tipo de ficha
Guía de instalación completa
Sitio oficial
Official site
// cómo funciona

Cómo funciona

  1. Install the runtime

    One binary or app gets you a working local model setup.

  2. Download a model

    Pick a size that fits your RAM/VRAM; smaller models run on laptops.

  3. Chat or integrate

    Use the built-in UI, or point OpenAI-compatible clients at it.

  4. Go private

    Airplane mode works — your prompts never leave the device.

// características

Por qué gusta tanto

LLM-powered

Large language models drive its smartest features, locally or via API.

Offline capable

Works on planes, in basements, behind firewalls.

Model choice

Swap between hundreds of open models freely.

OpenAI-compatible APIs

Existing tools plug in by changing one URL.

Document chat

Ask questions over your PDFs, notes, and codebases.

No subscriptions

Pay nothing per token, ever.

Advertisement
// ejecútalo

Ejecútalo tú mismo

  1. Step 1 — Clone the repo

    Download the source and move into the project folder.

    git clone https://github.com/containers/ramalama.git
    cd ramalama
  2. Step 2 — Check the README

    Every project documents its own setup; start with install requirements.

    cat README.md | head -60
  3. Step 3 — Run it

    Follow the project's launch command — Docker, pip, npm, or a binary release.

    # see README for the exact launch command
// casos de uso

Qué puedes crear

Advertisement
// preguntas frecuentes

Preguntas frecuentes

Who maintains ramalama?

It is an open-source project at containers/ramalama with 378 forks. Check the repo's contributors and recent commits to see how active maintenance is.

Is ramalama free for commercial use?

MIT licensed — use it commercially, no strings attached.

Which model should I start with?

A recent 8–32B instruct model is the sweet spot for most machines.

Is it really private?

Yes — with no network calls, there's nothing to leak.

Are local models as good as GPT-4?

Close on many tasks now; frontier cloud models still lead on hard reasoning.

// sigue explorando

Herramientas similares

LLM local

MaxKB

🔥 MaxKB is an open-source platform for building enterprise-grade agents. 强大易用的开源企业级智能体平台。

★ 22,9k estrellasGPL-3.0
Ver la guía →
LLM local

ext-apps

Official repo for spec & SDK of MCP Apps protocol - standard for UIs embedded AI chatbots, served by MCP servers

★ 2,9k estrellasUnknown
Ver la guía →
LLM local

GPT4All

GPT4All — run local LLMs on any device: a free desktop chat client and Python SDK that run open models entirely on your CPU, no GPU or cloud required

★ 77,4k estrellasMIT
Ver la guía →
LLM local

WhisperJAV

Noise-robust subtitle generator powered by Whisper and local ASR models.

★ 2,3k estrellasMIT
Ver la guía →
LLM local

vllm-omni

vLLM-Omni — efficient inference for omni-modality models: image, audio, video, diffusion and policies.

★ 7,1k estrellasApache-2.0
Ver la guía →
LLM local

lemonade

Discover and run local AI apps, serving optimized LLMs from your own GPU and NPU.

★ 5,8k estrellasApache-2.0
Ver la guía →
// alternativas

Alternativas en LLM local

Los demás proyectos de LLM local con más estrellas del catálogo de LibreAI: la lista realista de alternativas si ramalama no es lo que buscas.

// más en local-llm

Más en LLM local

Proyectos de LLM local cercanos en el catálogo, los más próximos en estrellas a ramalama: sigue explorando a ambos lados.

Consigue ramalama

Gratis y abierto: consigue el código fuente, dale una estrella al repositorio y empieza a crear.