// agents · idavidrein/gpqa

gpqa

gpqa — проект с открытым исходным кодом из категории «ИИ-агенты» от idavidrein (idavidrein/gpqa на GitHub). У него 540 звёзд на GitHub и 58 форков, он распространяется по лицензии MIT и последний раз обновлялся на GitHub 30 сентября 2024.

A graduate-level benchmark even Google can't crack.

★ 540 звёзд⑂ 58 форковMITобновлено сент. 2024
▦ визуал — в README этого проекта нет встраиваемого скриншота,
поэтому здесь заглушка. Руководство ниже в любом случае полное.
// факты о проекте

Факты о проекте

Репозиторий
idavidrein/gpqa
Звёзды GitHub
540
Форки
58
Лицензия
MIT
Последнее обновление на GitHub
30 сентября 2024
Категория
ИИ-агенты
Тип страницы
Полное руководство по установке
// как это работает

Как это работает

  1. Start with a use case

    Pick one concrete task so you can judge whether the project fits.

  2. Fetch the source

    Clone the repo and check the prerequisites listed in the README.

  3. Set up the environment

    Install what it needs and configure credentials or model access.

  4. Try the sample workflow

    Run a minimal example end to end before wiring it into your stack.

// возможности

Почему его любят

Graduate-level difficulty

Questions written by domain experts.

Google-proof

Resistant to simple search-based solving.

Reasoning-focused

Tests deep understanding, not trivia.

Influential

Widely cited in frontier-model evals.

Notebook format

Explore via Jupyter.

MIT licensed

Permissive licensing.

Advertisement
// запустите сами

Запустите сами

  1. Step 1 — Clone the repo

    Download the source and move into the project folder.

    git clone https://github.com/idavidrein/gpqa.git
    cd gpqa
  2. Step 2 — Install

    Set up a Python environment with the notebook dependencies.

    pip install -r requirements.txt
  3. Step 3 — Explore the data

    Open the notebooks and inspect the questions.

    jupyter notebook
// сценарии использования

Что можно создать

Advertisement
// вопросы и ответы

Вопросы и ответы

Who maintains GPQA?

It is maintained by idavidrein at idavidrein/gpqa, with 58 forks. The last push was September 2024.

Is GPQA free to use?

Yes. It is released under the MIT license, which permits commercial use, modification, and redistribution. Read the LICENSE file for the exact terms.

Do I need a paid API to use it?

The dataset is free; you need model access to evaluate against it.

How does it compare to MMLU?

GPQA is deliberately harder and more reasoning-focused; MMLU is broader.

How do I get started?

Read the paper, clone the repo, and explore the notebooks.

// продолжить изучение

Похожие инструменты

ИИ-агенты

SWE-bench_Pro-os

A benchmark testing whether agents can solve long-horizon coding tasks.

★ 539 звёздMIT
Смотреть руководство →
ИИ-агенты

MMLU-Pro

The tougher, more robust successor to the MMLU benchmark.

★ 429 звёздApache-2.0
Смотреть руководство →
ИИ-агенты

SWE-bench

The benchmark that grades AI on real GitHub issues.

★ 6,0 тыс. звёздMIT
Смотреть руководство →
ИИ-агенты

notfair-plugin

SEO, GEO, and marketing skills your agents can use.

★ 3,9 тыс. звёздMIT
Смотреть руководство →
ИИ-агенты

google_workspace_mcp

Control Gmail, Calendar, Docs, Sheets, Drive and more from AI — a full Google Workspace MCP server.

★ 3,3 тыс. звёздMIT
Смотреть руководство →
ИИ-агенты

agentsight

See what your AI agents do — at the system level.

★ 728 звёздMIT
Смотреть руководство →
// альтернативы

Альтернативы: ИИ-агенты

Другие проекты из категории «ИИ-агенты» с наибольшим числом звёзд в каталоге LibreAI — реалистичный список альтернатив, если gpqa вам не подходит.

// ещё в категории agents

Больше проектов: ИИ-агенты

Соседние проекты из категории «ИИ-агенты» в каталоге, ближайшие по числу звёзд к gpqa — продолжайте изучать полку по обе стороны от него.

Получить gpqa

Бесплатно и открыто — забирайте исходный код, ставьте звезду репозиторию и начинайте создавать.