// devtools · Lightning-AI/litgpt

litgpt

litgpt es un proyecto de herramientas de desarrollo de código abierto de Lightning-AI (Lightning-AI/litgpt en GitHub). Tiene 13.695 estrellas en GitHub y 1.516 bifurcaciones, se publica bajo la licencia Apache-2.0 y se actualizó por última vez en GitHub el 7 de octubre de 2026.

20+ high-performance LLMs implemented from scratch, with proven recipes to pretrain, finetune and deploy.

★ 13,7k estrellas⑂ 1,5k bifurcacionesApache-2.0actualizado oct 2026
▦ visual: el README de este proyecto no incluye ninguna captura incrustable,
así que aquí va un marcador. La guía de abajo está completa de todos modos.
// datos del proyecto

Datos del proyecto

Estrellas en GitHub
13.695
Bifurcaciones
1.516
Licencia
Apache-2.0
Última actualización en GitHub
7 de octubre de 2026
Tipo de ficha
Guía de instalación completa
Sitio oficial
Official site
// cómo funciona

Cómo funciona

  1. Choose a model and a workflow

    Pick from 20+ supported LLMs and decide whether you are chatting, fine-tuning, pretraining, evaluating or serving.

  2. Install LitGPT

    Install the package with the extra dependencies bundle from PyPI, or clone the repo for a source install.

  3. Load a model

    Use the CLI or the Python API - weights download automatically for supported models (some gated models need a Hugging Face token).

  4. Run your workflow

    Fine-tune on your JSON dataset with a proven recipe, chat with the result to test it, then serve it as an API.

// características

Por qué gusta tanto

From-scratch, single-file models

Every LLM is implemented from scratch with no abstractions, making the code easy to read, debug and modify.

20+ model families

Llama 2/3, Code Llama, Gemma 2/3, Phi, Qwen2.5/Qwen3, Mistral/Mixtral, Falcon, Pythia, OLMo, DeepSeek R1 distills and more, listed via litgpt download list.

Full workflow CLI

Pretrain, continued pretrain, finetune, evaluate (for example MMLU and TruthfulQA), chat and serve, all through one litgpt command interface.

Parameter-efficient finetuning

LoRA, QLoRA, Adapter and Adapter v2 recipes, plus YAML configuration files for reproducible, out-of-the-box performance.

Scale and precision options

Flash Attention v2, FSDP multi-GPU support, optional CPU offloading, TPU/XLA support, and FP16/BF16 plus 4-bit and 8-bit quantization to cut memory.

One-command deployment

litgpt serve turns a pretrained or fine-tuned checkpoint into a web server you can query over HTTP.

Advertisement
// ejecútalo

Ejecútalo tú mismo

  1. Clone the repository

    Clone LitGPT for a source install; PyPI users can skip the clone.

    git clone https://github.com/Lightning-AI/litgpt.git
    cd litgpt
  2. Install LitGPT

    Install the package with its extra dependencies from PyPI.

    pip install 'litgpt[extra]'
  3. Chat with a model

    Download and chat with a model in one command - weights are fetched automatically.

    litgpt chat microsoft/phi-2
// casos de uso

Qué puedes crear

Advertisement
// preguntas frecuentes

Preguntas frecuentes

Who maintains LitGPT?

LitGPT is developed by Lightning AI, the company behind PyTorch Lightning, with open-source contributors.

Is LitGPT free to use?

Yes. It is Apache-2.0 licensed, which the project highlights as allowing unlimited enterprise use. Model weights you download carry their own licenses.

Does it need a paid API key?

No. Everything runs on your own GPUs; some gated Hugging Face models require a free access token to download.

How does LitGPT compare with Hugging Face Transformers or ms-swift?

Transformers is a broad modeling library and ms-swift a ModelScope training framework; LitGPT focuses on a curated set of from-scratch, hackable implementations with proven end-to-end recipes in one CLI.

How do I get started?

Run pip install 'litgpt[extra]', then litgpt chat microsoft/phi-2 to talk to a model in minutes.

// sigue explorando

Herramientas similares

Herramientas de desarrollo

rocketride-server

A high-performance AI pipeline engine - build LLM workflows as portable .pipe files

★ 17,8k estrellasMIT
Ver la guía →
Herramientas de desarrollo

jcode

A high-performance coding agent harness in Rust - fast TUI, swarms and every provider

★ 20,4k estrellasMIT
Ver la guía →
Herramientas de desarrollo

ms-swift

Fine-tune and deploy 600+ LLMs and 300+ multimodal models with PEFT or full-parameter training.

★ 15,8k estrellasApache-2.0
Ver la guía →
Herramientas de desarrollo

DataDesigner

NVIDIA NeMo Data Designer: build validated, multimodal synthetic datasets from scratch or from seed data.

★ 2,3k estrellasApache-2.0
Ver la guía →
Herramientas de desarrollo

claude-cookbooks

Anthropic's official collection of notebooks and recipes for using Claude effectively

★ 53,3k estrellasMIT
Ver la guía →
Herramientas de desarrollo

langextract

Google's Python library for extracting structured data from unstructured text with LLMs, with grounding

★ 38,9k estrellasApache-2.0
Ver la guía →
// alternativas

Alternativas en Herramientas de desarrollo

Los demás proyectos de Herramientas de desarrollo con más estrellas del catálogo de LibreAI: la lista realista de alternativas si litgpt no es lo que buscas.

// más en devtools

Más en Herramientas de desarrollo

Proyectos de Herramientas de desarrollo cercanos en el catálogo, los más próximos en estrellas a litgpt: sigue explorando a ambos lados.

Consigue litgpt

Gratis y abierto: consigue el código fuente, dale una estrella al repositorio y empieza a crear.