// agents · idavidrein/gpqa

gpqa

gpqaは、idavidreinが公開しているオープンソースのAIエージェントプロジェクトです(GitHub: idavidrein/gpqa)。GitHubスターは540、フォークは58で、MITライセンスの下で公開されています。GitHubでの最終更新は2024年9月30日です。

A graduate-level benchmark even Google can't crack.

★ 540 スター⑂ 58 フォークMIT更新 2024年9月
▦ ビジュアル — このプロジェクトのREADMEには埋め込み可能なスクリーンショットがないため、
ここではプレースホルダーを表示しています。下のガイド自体は完全な内容です。
// プロジェクトの基本情報

プロジェクト基本情報

リポジトリ
idavidrein/gpqa
GitHubスター
540
フォーク
58
ライセンス
MIT
GitHubでの最終更新
2024年9月30日
掲載タイプ
完全なインストールガイド
// 仕組み

仕組み

  1. Start with a use case

    Pick one concrete task so you can judge whether the project fits.

  2. Fetch the source

    Clone the repo and check the prerequisites listed in the README.

  3. Set up the environment

    Install what it needs and configure credentials or model access.

  4. Try the sample workflow

    Run a minimal example end to end before wiring it into your stack.

// 機能

選ばれる理由

Graduate-level difficulty

Questions written by domain experts.

Google-proof

Resistant to simple search-based solving.

Reasoning-focused

Tests deep understanding, not trivia.

Influential

Widely cited in frontier-model evals.

Notebook format

Explore via Jupyter.

MIT licensed

Permissive licensing.

Advertisement
// 自分で実行

自分で実行してみる

  1. Step 1 — Clone the repo

    Download the source and move into the project folder.

    git clone https://github.com/idavidrein/gpqa.git
    cd gpqa
  2. Step 2 — Install

    Set up a Python environment with the notebook dependencies.

    pip install -r requirements.txt
  3. Step 3 — Explore the data

    Open the notebooks and inspect the questions.

    jupyter notebook
// 活用例

作れるもの

Advertisement
// よくある質問

よくある質問

Who maintains GPQA?

It is maintained by idavidrein at idavidrein/gpqa, with 58 forks. The last push was September 2024.

Is GPQA free to use?

Yes. It is released under the MIT license, which permits commercial use, modification, and redistribution. Read the LICENSE file for the exact terms.

Do I need a paid API to use it?

The dataset is free; you need model access to evaluate against it.

How does it compare to MMLU?

GPQA is deliberately harder and more reasoning-focused; MMLU is broader.

How do I get started?

Read the paper, clone the repo, and explore the notebooks.

// さらに探索

似ているツール

AIエージェント

SWE-bench_Pro-os

A benchmark testing whether agents can solve long-horizon coding tasks.

★ 539 スターMIT
ガイドを見る →
AIエージェント

MMLU-Pro

The tougher, more robust successor to the MMLU benchmark.

★ 429 スターApache-2.0
ガイドを見る →
AIエージェント

SWE-bench

The benchmark that grades AI on real GitHub issues.

★ 6.0k スターMIT
ガイドを見る →
AIエージェント

notfair-plugin

SEO, GEO, and marketing skills your agents can use.

★ 3.9k スターMIT
ガイドを見る →
AIエージェント

google_workspace_mcp

Control Gmail, Calendar, Docs, Sheets, Drive and more from AI — a full Google Workspace MCP server.

★ 3.3k スターMIT
ガイドを見る →
AIエージェント

agentsight

See what your AI agents do — at the system level.

★ 728 スターMIT
ガイドを見る →
// 代替候補

代替候補: AIエージェント

LibreAIカタログに掲載されたAIエージェントプロジェクトの中で最もスターの多いもの — gpqaが合わなかった場合に検討したい、現実的な候補リストです。

// さらに見る agents

さらに見る: AIエージェント

カタログの中でgpqaとスター数が近いAIエージェントプロジェクト — 前後の棚もそのまま見て回れます。

gpqaを入手する

無料でオープン — ソースコードを入手して、リポジトリにスターを付け、作り始めましょう。