LibreAI / Agentes de IA / MMLU-Pro
// agents · TIGER-AI-Lab/MMLU-Pro

MMLU-Pro

MMLU-Pro es un proyecto de agentes de IA de código abierto de TIGER-AI-Lab (TIGER-AI-Lab/MMLU-Pro en GitHub). Tiene 429 estrellas en GitHub y 58 bifurcaciones, se publica bajo la licencia Apache-2.0 y se actualizó por última vez en GitHub el 18 de marzo de 2026.

The tougher, more robust successor to the MMLU benchmark.

★ 429 estrellas⑂ 58 bifurcacionesApache-2.0actualizado mar 2026
▦ visual: el README de este proyecto no incluye ninguna captura incrustable,
así que aquí va un marcador. La guía de abajo está completa de todos modos.
// datos del proyecto

Datos del proyecto

Estrellas en GitHub
429
Bifurcaciones
58
Licencia
Apache-2.0
Última actualización en GitHub
18 de marzo de 2026
Categoría
Agentes de IA
Tipo de ficha
Guía de instalación completa
// cómo funciona

Cómo funciona

  1. Scope the task

    Write down the outcome you want in one sentence.

  2. Fetch the repo

    Clone it locally and check the README.

  3. Install prerequisites

    Get dependencies and tooling in place per the docs.

  4. Run the quickstart

    Follow the minimal example, then adapt it to your needs.

// características

Por qué gusta tanto

Harder questions

Beyond what MMLU could separate.

More choices

Ten options per question raise the bar.

Multi-task coverage

Breadth across knowledge domains.

Reproducible evals

Code and data, open to all.

NeurIPS 2024

Peer-reviewed benchmark design.

Research standard

Increasingly the test labs must pass.

Advertisement
// ejecútalo

Ejecútalo tú mismo

  1. Step 1 — Clone the repo

    Download the source and move into the project folder.

    git clone https://github.com/TIGER-AI-Lab/MMLU-Pro.git
    cd MMLU-Pro
  2. Step 2 — Create a venv and install

    Isolate dependencies, then install requirements.

    python -m venv .venv && source .venv/bin/activate
    pip install -r requirements.txt
  3. Step 3 — Run it

    Launch using the entry point shown in the README.

    python -m mmlu_pro  # check README for the exact command
// casos de uso

Qué puedes crear

Advertisement
// preguntas frecuentes

Preguntas frecuentes

Who maintains MMLU-Pro?

It is an open-source project at TIGER-AI-Lab/MMLU-Pro with 58 forks. Check the contributors tab and recent commits to judge how active maintenance is.

Is MMLU-Pro free to use?

Yes — Apache 2.0 allows commercial use and modification. Keep the license and notice files, and note it includes a patent grant.

How is it harder than MMLU?

More answer choices per question and harder items overall — designed to separate frontier models.

How do I run it?

Clone the repo and follow the eval instructions; it's code and data, not a service.

How do I get started?

Clone the repo and follow the README quickstart — the README is the best starting point.

// sigue explorando

Herramientas similares

Agentes de IA

SWE-bench_Pro-os

A benchmark testing whether agents can solve long-horizon coding tasks.

★ 539 estrellasMIT
Ver la guía →
Agentes de IA

SWE-bench

The benchmark that grades AI on real GitHub issues.

★ 6,0k estrellasMIT
Ver la guía →
Agentes de IA

dbhub

A token-conscious MCP server that connects AI tools to Postgres, MySQL, SQLite and more.

★ 3,6k estrellasMIT
Ver la guía →
Agentes de IA

tau2-bench

A benchmark for tool-agent-user interaction in real-world domains.

★ 2,2k estrellasMIT
Ver la guía →
Agentes de IA

ClawBench

An open benchmark for browser AI agents on everyday tasks.

★ 975 estrellasApache-2.0
Ver la guía →
Agentes de IA

gpqa

A graduate-level benchmark even Google can't crack.

★ 540 estrellasMIT
Ver la guía →
// alternativas

Alternativas en Agentes de IA

Los demás proyectos de Agentes de IA con más estrellas del catálogo de LibreAI: la lista realista de alternativas si MMLU-Pro no es lo que buscas.

// más en agents

Más en Agentes de IA

Proyectos de Agentes de IA cercanos en el catálogo, los más próximos en estrellas a MMLU-Pro: sigue explorando a ambos lados.

Consigue MMLU-Pro

Gratis y abierto: consigue el código fuente, dale una estrella al repositorio y empieza a crear.