// devtools · Lightning-AI/litgpt

litgpt

litgpt est un projet de développement open source, créé par Lightning-AI (Lightning-AI/litgpt sur GitHub). Il compte 13 695 étoiles sur GitHub et 1 516 forks, il est publié sous la licence Apache-2.0 et a été mis à jour pour la dernière fois sur GitHub le 7 octobre 2026.

20+ high-performance LLMs implemented from scratch, with proven recipes to pretrain, finetune and deploy.

★ 13,7 k étoiles⑂ 1,5 k forksApache-2.0mis à jour oct. 2026
▦ visuel — le README de ce projet ne contient aucune capture intégrable,
voici donc un emplacement réservé. Le guide ci-dessous est complet malgré tout.
// détails du projet

Détails du projet

Étoiles GitHub
13 695
Forks
1 516
Licence
Apache-2.0
Dernière mise à jour sur GitHub
7 octobre 2026
Catégorie
Développement
Type de fiche
Guide d'installation complet
Site officiel
Official site
// fonctionnement

Comment ça marche

  1. Choose a model and a workflow

    Pick from 20+ supported LLMs and decide whether you are chatting, fine-tuning, pretraining, evaluating or serving.

  2. Install LitGPT

    Install the package with the extra dependencies bundle from PyPI, or clone the repo for a source install.

  3. Load a model

    Use the CLI or the Python API - weights download automatically for supported models (some gated models need a Hugging Face token).

  4. Run your workflow

    Fine-tune on your JSON dataset with a proven recipe, chat with the result to test it, then serve it as an API.

// fonctionnalités

Pourquoi on l'adore

From-scratch, single-file models

Every LLM is implemented from scratch with no abstractions, making the code easy to read, debug and modify.

20+ model families

Llama 2/3, Code Llama, Gemma 2/3, Phi, Qwen2.5/Qwen3, Mistral/Mixtral, Falcon, Pythia, OLMo, DeepSeek R1 distills and more, listed via litgpt download list.

Full workflow CLI

Pretrain, continued pretrain, finetune, evaluate (for example MMLU and TruthfulQA), chat and serve, all through one litgpt command interface.

Parameter-efficient finetuning

LoRA, QLoRA, Adapter and Adapter v2 recipes, plus YAML configuration files for reproducible, out-of-the-box performance.

Scale and precision options

Flash Attention v2, FSDP multi-GPU support, optional CPU offloading, TPU/XLA support, and FP16/BF16 plus 4-bit and 8-bit quantization to cut memory.

One-command deployment

litgpt serve turns a pretrained or fine-tuned checkpoint into a web server you can query over HTTP.

Advertisement
// lancez-le

Lancez-le vous-même

  1. Clone the repository

    Clone LitGPT for a source install; PyPI users can skip the clone.

    git clone https://github.com/Lightning-AI/litgpt.git
    cd litgpt
  2. Install LitGPT

    Install the package with its extra dependencies from PyPI.

    pip install 'litgpt[extra]'
  3. Chat with a model

    Download and chat with a model in one command - weights are fetched automatically.

    litgpt chat microsoft/phi-2
// cas d'usage

Ce que vous pouvez créer

Advertisement
// faq

Questions fréquentes

Who maintains LitGPT?

LitGPT is developed by Lightning AI, the company behind PyTorch Lightning, with open-source contributors.

Is LitGPT free to use?

Yes. It is Apache-2.0 licensed, which the project highlights as allowing unlimited enterprise use. Model weights you download carry their own licenses.

Does it need a paid API key?

No. Everything runs on your own GPUs; some gated Hugging Face models require a free access token to download.

How does LitGPT compare with Hugging Face Transformers or ms-swift?

Transformers is a broad modeling library and ms-swift a ModelScope training framework; LitGPT focuses on a curated set of from-scratch, hackable implementations with proven end-to-end recipes in one CLI.

How do I get started?

Run pip install 'litgpt[extra]', then litgpt chat microsoft/phi-2 to talk to a model in minutes.

// continuez l'exploration

Outils similaires

Développement

rocketride-server

A high-performance AI pipeline engine - build LLM workflows as portable .pipe files

★ 17,8 k étoilesMIT
Voir le guide →
Développement

jcode

A high-performance coding agent harness in Rust - fast TUI, swarms and every provider

★ 20,4 k étoilesMIT
Voir le guide →
Développement

ms-swift

Fine-tune and deploy 600+ LLMs and 300+ multimodal models with PEFT or full-parameter training.

★ 15,8 k étoilesApache-2.0
Voir le guide →
Développement

DataDesigner

NVIDIA NeMo Data Designer: build validated, multimodal synthetic datasets from scratch or from seed data.

★ 2,3 k étoilesApache-2.0
Voir le guide →
Développement

claude-cookbooks

Anthropic's official collection of notebooks and recipes for using Claude effectively

★ 53,3 k étoilesMIT
Voir le guide →
Développement

langextract

Google's Python library for extracting structured data from unstructured text with LLMs, with grounding

★ 38,9 k étoilesApache-2.0
Voir le guide →
// alternatives

Alternatives en Développement

Les autres projets de la catégorie Développement avec le plus d'étoiles du catalogue LibreAI — la sélection réaliste d'alternatives si litgpt ne vous convient pas.

// plus en devtools

Plus en Développement

Projets de la catégorie Développement proches dans le catalogue, les plus proches en étoiles de litgpt — continuez à explorer de part et d'autre.

Obtenir litgpt

Gratuit et ouvert : récupérez le code source, mettez une étoile au dépôt et commencez à créer.