// devtools · Lightning-AI/litgpt

litgpt

litgpt é um projeto de ferramentas de desenvolvimento de código aberto de Lightning-AI (Lightning-AI/litgpt no GitHub). Tem 13.695 estrelas no GitHub e 1.516 forks, é publicado sob a licença Apache-2.0 e foi atualizado pela última vez no GitHub em 7 de outubro de 2026.

20+ high-performance LLMs implemented from scratch, with proven recipes to pretrain, finetune and deploy.

★ 13,7 mil estrelas⑂ 1,5 mil forksApache-2.0atualizado out 2026
▦ visual: o README deste projeto não inclui nenhuma captura incorporável,
então aqui vai um marcador. O guia abaixo está completo mesmo assim.
// dados do projeto

Dados do projeto

Estrelas no GitHub
13.695
Forks
1.516
Licença
Apache-2.0
Última atualização no GitHub
7 de outubro de 2026
Tipo de ficha
Guia de instalação completo
Site oficial
Official site
// como funciona

Como funciona

  1. Choose a model and a workflow

    Pick from 20+ supported LLMs and decide whether you are chatting, fine-tuning, pretraining, evaluating or serving.

  2. Install LitGPT

    Install the package with the extra dependencies bundle from PyPI, or clone the repo for a source install.

  3. Load a model

    Use the CLI or the Python API - weights download automatically for supported models (some gated models need a Hugging Face token).

  4. Run your workflow

    Fine-tune on your JSON dataset with a proven recipe, chat with the result to test it, then serve it as an API.

// recursos

Por que as pessoas gostam tanto

From-scratch, single-file models

Every LLM is implemented from scratch with no abstractions, making the code easy to read, debug and modify.

20+ model families

Llama 2/3, Code Llama, Gemma 2/3, Phi, Qwen2.5/Qwen3, Mistral/Mixtral, Falcon, Pythia, OLMo, DeepSeek R1 distills and more, listed via litgpt download list.

Full workflow CLI

Pretrain, continued pretrain, finetune, evaluate (for example MMLU and TruthfulQA), chat and serve, all through one litgpt command interface.

Parameter-efficient finetuning

LoRA, QLoRA, Adapter and Adapter v2 recipes, plus YAML configuration files for reproducible, out-of-the-box performance.

Scale and precision options

Flash Attention v2, FSDP multi-GPU support, optional CPU offloading, TPU/XLA support, and FP16/BF16 plus 4-bit and 8-bit quantization to cut memory.

One-command deployment

litgpt serve turns a pretrained or fine-tuned checkpoint into a web server you can query over HTTP.

Advertisement
// execute você mesmo

Execute você mesmo

  1. Clone the repository

    Clone LitGPT for a source install; PyPI users can skip the clone.

    git clone https://github.com/Lightning-AI/litgpt.git
    cd litgpt
  2. Install LitGPT

    Install the package with its extra dependencies from PyPI.

    pip install 'litgpt[extra]'
  3. Chat with a model

    Download and chat with a model in one command - weights are fetched automatically.

    litgpt chat microsoft/phi-2
// casos de uso

O que você pode criar

Advertisement
// perguntas frequentes

Perguntas frequentes

Who maintains LitGPT?

LitGPT is developed by Lightning AI, the company behind PyTorch Lightning, with open-source contributors.

Is LitGPT free to use?

Yes. It is Apache-2.0 licensed, which the project highlights as allowing unlimited enterprise use. Model weights you download carry their own licenses.

Does it need a paid API key?

No. Everything runs on your own GPUs; some gated Hugging Face models require a free access token to download.

How does LitGPT compare with Hugging Face Transformers or ms-swift?

Transformers is a broad modeling library and ms-swift a ModelScope training framework; LitGPT focuses on a curated set of from-scratch, hackable implementations with proven end-to-end recipes in one CLI.

How do I get started?

Run pip install 'litgpt[extra]', then litgpt chat microsoft/phi-2 to talk to a model in minutes.

// continue explorando

Ferramentas semelhantes

Ferramentas de desenvolvimento

rocketride-server

A high-performance AI pipeline engine - build LLM workflows as portable .pipe files

★ 17,8 mil estrelasMIT
Ver o guia →
Ferramentas de desenvolvimento

jcode

A high-performance coding agent harness in Rust - fast TUI, swarms and every provider

★ 20,4 mil estrelasMIT
Ver o guia →
Ferramentas de desenvolvimento

ms-swift

Fine-tune and deploy 600+ LLMs and 300+ multimodal models with PEFT or full-parameter training.

★ 15,8 mil estrelasApache-2.0
Ver o guia →
Ferramentas de desenvolvimento

DataDesigner

NVIDIA NeMo Data Designer: build validated, multimodal synthetic datasets from scratch or from seed data.

★ 2,3 mil estrelasApache-2.0
Ver o guia →
Ferramentas de desenvolvimento

claude-cookbooks

Anthropic's official collection of notebooks and recipes for using Claude effectively

★ 53,3 mil estrelasMIT
Ver o guia →
Ferramentas de desenvolvimento

langextract

Google's Python library for extracting structured data from unstructured text with LLMs, with grounding

★ 38,9 mil estrelasApache-2.0
Ver o guia →
// alternativas

Alternativas em Ferramentas de desenvolvimento

Os outros projetos de Ferramentas de desenvolvimento com mais estrelas no catálogo do LibreAI — a lista realista de alternativas se litgpt não for o ideal para você.

// mais em devtools

Mais em Ferramentas de desenvolvimento

Projetos de Ferramentas de desenvolvimento próximos no catálogo, os mais próximos em estrelas de litgpt: continue explorando dos dois lados dele.

Baixe o litgpt

Grátis e aberto: pegue o código-fonte, dê uma estrela no repositório e comece a criar.