// agents · idavidrein/gpqa

gpqa

gpqa ist ein Open-Source-Projekt aus der Kategorie KI-Agenten von idavidrein (idavidrein/gpqa auf GitHub). Es hat 540 Sterne auf GitHub und 58 Forks, wird unter der Lizenz MIT veröffentlicht und wurde zuletzt am 30. September 2024 auf GitHub aktualisiert.

A graduate-level benchmark even Google can't crack.

★ 540 Sterne⑂ 58 ForksMITaktualisiert Sep 2024
▦ Visual — das README dieses Projekts enthält keinen einbettbaren Screenshot,
darum hier ein Platzhalter. Die Anleitung unten ist trotzdem vollständig.
// projektdaten

Projektdaten

Repository
idavidrein/gpqa
GitHub-Sterne
540
Forks
58
Lizenz
MIT
Zuletzt auf GitHub aktualisiert
30. September 2024
Kategorie
KI-Agenten
Eintragstyp
Vollständige Installationsanleitung
// so funktioniert es

So funktioniert es

  1. Start with a use case

    Pick one concrete task so you can judge whether the project fits.

  2. Fetch the source

    Clone the repo and check the prerequisites listed in the README.

  3. Set up the environment

    Install what it needs and configure credentials or model access.

  4. Try the sample workflow

    Run a minimal example end to end before wiring it into your stack.

// funktionen

Warum es so beliebt ist

Graduate-level difficulty

Questions written by domain experts.

Google-proof

Resistant to simple search-based solving.

Reasoning-focused

Tests deep understanding, not trivia.

Influential

Widely cited in frontier-model evals.

Notebook format

Explore via Jupyter.

MIT licensed

Permissive licensing.

Advertisement
// selbst ausführen

Führe es selbst aus

  1. Step 1 — Clone the repo

    Download the source and move into the project folder.

    git clone https://github.com/idavidrein/gpqa.git
    cd gpqa
  2. Step 2 — Install

    Set up a Python environment with the notebook dependencies.

    pip install -r requirements.txt
  3. Step 3 — Explore the data

    Open the notebooks and inspect the questions.

    jupyter notebook
// anwendungsfälle

Was du damit bauen kannst

Advertisement
// häufige fragen

Häufige Fragen

Who maintains GPQA?

It is maintained by idavidrein at idavidrein/gpqa, with 58 forks. The last push was September 2024.

Is GPQA free to use?

Yes. It is released under the MIT license, which permits commercial use, modification, and redistribution. Read the LICENSE file for the exact terms.

Do I need a paid API to use it?

The dataset is free; you need model access to evaluate against it.

How does it compare to MMLU?

GPQA is deliberately harder and more reasoning-focused; MMLU is broader.

How do I get started?

Read the paper, clone the repo, and explore the notebooks.

// weiter entdecken

Ähnliche Tools

KI-Agenten

SWE-bench_Pro-os

A benchmark testing whether agents can solve long-horizon coding tasks.

★ 539 SterneMIT
Anleitung ansehen →
KI-Agenten

MMLU-Pro

The tougher, more robust successor to the MMLU benchmark.

★ 429 SterneApache-2.0
Anleitung ansehen →
KI-Agenten

SWE-bench

The benchmark that grades AI on real GitHub issues.

★ 6,0 Tsd. SterneMIT
Anleitung ansehen →
KI-Agenten

notfair-plugin

SEO, GEO, and marketing skills your agents can use.

★ 3,9 Tsd. SterneMIT
Anleitung ansehen →
KI-Agenten

google_workspace_mcp

Control Gmail, Calendar, Docs, Sheets, Drive and more from AI — a full Google Workspace MCP server.

★ 3,3 Tsd. SterneMIT
Anleitung ansehen →
KI-Agenten

agentsight

See what your AI agents do — at the system level.

★ 728 SterneMIT
Anleitung ansehen →
// alternativen

Alternativen im Bereich KI-Agenten

Die anderen Projekte der Kategorie KI-Agenten mit den meisten Sternen im LibreAI-Katalog — die realistische Auswahl, falls gpqa nicht das Richtige ist.

// mehr in agents

Mehr in KI-Agenten

Verwandte Projekte der Kategorie KI-Agenten im Katalog, die gpqa bei den Sternen am nächsten stehen — zum Weiterstöbern auf beiden Seiten.

Hol dir gpqa

Kostenlos und offen — hol dir den Quellcode, gib dem Repository einen Stern und leg los.