LibreAI / AIエージェント / webarena-verified
// agents · ServiceNow/webarena-verified

webarena-verified

webarena-verifiedは、ServiceNowが公開しているオープンソースのAIエージェントプロジェクトです(GitHub: ServiceNow/webarena-verified)。GitHubスターは62、フォークは13で、Apache-2.0ライセンスの下で公開されています。GitHubでの最終更新は2026年3月8日です。

WebArena-Verified: the audited, deterministically scored release of the WebArena web-agent benchmark.

★ 62 スター⑂ 13 フォークApache-2.0更新 2026年3月
▦ ビジュアル — このプロジェクトのREADMEには埋め込み可能なスクリーンショットがないため、
ここではプレースホルダーを表示しています。下のガイド自体は完全な内容です。
// プロジェクトの基本情報

プロジェクト基本情報

GitHubスター
62
フォーク
13
ライセンス
Apache-2.0
GitHubでの最終更新
2026年3月8日
掲載タイプ
完全なインストールガイド
公式サイト
Official site
// 仕組み

仕組み

  1. Clarify your goal

    Decide whether to evaluate on the full dataset or the smaller, harder subset for cheaper runs.

  2. Get the project

    Install webarena-verified with pip, run it directly with uvx, or use the published Docker image.

  3. Install and configure

    Export the dataset, start the site environments you need with the env commands, and configure your agent's environment URLs and credentials.

  4. Run your first task

    Run your agent, capture its responses and network traces, and score tasks with eval-tasks or the Python API.

// 機能

選ばれる理由

Fully audited tasks

Every task, reference answer, and evaluator has been manually reviewed and corrected relative to the original release.

Deterministic scoring

Evaluation replaces LLM-as-a-judge and substring matching with type-aware normalisation and structural comparison.

Offline evaluation via trace replay

Agent runs can be scored without live web environments by replaying captured network traces.

Hard subset for cheaper runs

A difficulty-prioritised subset of the full task set supports faster, lower-cost evaluation.

Managed site environments

The CLI starts and stops the benchmark's websites, with optimised Docker images and an environment-control API and dashboard.

CLI, library, and Docker access

Evaluate from the command line, from Python through the WebArenaVerified API, or entirely inside the published container image.

Advertisement
// 自分で実行

自分で実行してみる

  1. Clone the repository (optional)

    Most users install the package or use uvx/Docker instead of cloning.

    git clone https://github.com/ServiceNow/webarena-verified.git
    cd webarena-verified
  2. Install the package

    Or skip installation entirely and call it through uvx.

    pip install webarena-verified
  3. Export data and evaluate a task

    Fetch the dataset, then score an example agent log as the README demonstrates.

    webarena-verified dataset-get --output webarena-verified.json
    uvx webarena-verified eval-tasks --task-ids 108 --output-dir examples/agent_logs/demo
// 活用例

作れるもの

Advertisement
// よくある質問

よくある質問

Who maintains it?

It is maintained by ServiceNow, with academic guidance acknowledged in the README.

Is it free to use?

Yes, it is Apache-2.0 licensed and published on PyPI and as a Docker image; running the site environments and your agent uses your own infrastructure and model access.

Does it need a paid API key?

No API key is required by the benchmark, and scoring is deterministic rather than LLM-judged; the agent you evaluate uses its own model credentials.

How does it compare to a well-known alternative?

The original WebArena contained tasks and evaluators with known errors and relied partly on fuzzy matching; the Verified release audits every task and evaluator and scores deterministically, including offline from traces.

How do I get started?

Run uvx webarena-verified --help, export the dataset with dataset-get, start a site with env start, and score a run with eval-tasks.

// さらに探索

似ているツール

AIエージェント

agent-memory-benchmark

A benchmark for comparing AI agent memory systems head-to-head.

★ 144 スターNOASSERTION
ガイドを見る →
AIエージェント

PhyAgentOS-core

Recursive self-improving physical agent OS — verified, evidence-based execution for robots and simulators

★ 2.8k スターMIT
ガイドを見る →
AIエージェント

tau2-bench

A benchmark for tool-agent-user interaction in real-world domains.

★ 2.2k スターMIT
ガイドを見る →
AIエージェント

WorkArena

WorkArena: ServiceNow's benchmark for how well web agents handle everyday knowledge-work tasks.

★ 275 スターNOASSERTION
ガイドを見る →
AIエージェント

page-agent

Alibaba's in-page GUI agent: control any web interface with natural language, from one script tag

★ 29.4k スターMIT
ガイドを見る →
AIエージェント

Rakazo

Rakazo — an open-source, self-hosted AI agent for persistent teammates: bring your own model and computer, run it on web, desktop, iPhone and Android

★ 4.1k スターApache-2.0
ガイドを見る →
// 代替候補

代替候補: AIエージェント

LibreAIカタログに掲載されたAIエージェントプロジェクトの中で最もスターの多いもの — webarena-verifiedが合わなかった場合に検討したい、現実的な候補リストです。

// さらに見る agents

さらに見る: AIエージェント

カタログの中でwebarena-verifiedとスター数が近いAIエージェントプロジェクト — 前後の棚もそのまま見て回れます。

webarena-verifiedを入手する

無料でオープン — ソースコードを入手して、リポジトリにスターを付け、作り始めましょう。