LibreAI / Développement / evalscope
// devtools · modelscope/evalscope

evalscope

evalscope est un projet de développement open source, créé par modelscope (modelscope/evalscope sur GitHub). Il compte 3 509 étoiles sur GitHub et 509 forks, il est publié sous la licence Apache-2.0 et a été mis à jour pour la dernière fois sur GitHub le 8 octobre 2026.

A streamlined framework for evaluating and benchmarking LLMs, VLMs and AIGC models.

★ 3,5 k étoiles⑂ 509 forksApache-2.0mis à jour oct. 2026
▦ visuel — le README de ce projet ne contient aucune capture intégrable,
voici donc un emplacement réservé. Le guide ci-dessous est complet malgré tout.
// détails du projet

Détails du projet

Étoiles GitHub
3 509
Forks
509
Licence
Apache-2.0
Dernière mise à jour sur GitHub
8 octobre 2026
Catégorie
Développement
Type de fiche
Guide d'installation complet
Site officiel
Official site
// fonctionnement

Comment ça marche

  1. Clarify your goal

    Decide the first concrete outcome you want from it, so you can pick the right example, template or mode instead of exploring everything at once.

  2. Get the project

    Clone the repository (or install the published package) and skim its README quick start for the requirements for your platform.

  3. Install and configure

    Run the documented install step and set any required configuration — such as provider keys, data sources or local services — before the first run.

  4. Run your first task

    Execute the smallest documented example end to end, confirm the output is what you expected, then adapt it to your real data or workflow.

// fonctionnalités

Pourquoi on l'adore

Comprehensive benchmarks

Industry-recognised benchmarks including MMLU, C-Eval and GSM8K built in, with custom dataset support.

Multi-modal, multi-domain

Evaluate LLMs, VLMs, embedding, reranker and AIGC models in one framework.

Multiple backends

Native backend plus OpenCompass, VLMEvalKit and RAGEval integrations.

Agent evaluation mode

Drive benchmarks such as GSM8K, AIME and SWE-bench Agentic inside a controlled multi-turn AgentLoop with Docker sandbox and full traces.

Performance testing

Stress-test model services with TTFT, TPOT and throughput metrics, recordable to wandb/swanlab.

Reports and arena

Interactive web dashboard for comparison, plus pairwise Arena mode to rank models head-to-head.

Advertisement
// lancez-le

Lancez-le vous-même

  1. Clone the repository

    Get the source so you can inspect, configure and run it locally.

    git clone https://github.com/modelscope/evalscope.git
    cd evalscope
  2. Install EvalScope

    Install the package from PyPI.

    pip install evalscope
  3. Evaluate a model API

    Run a first benchmark against an OpenAI-compatible endpoint.

    evalscope eval --model your-model-name --api-url $OPENAI_API_BASE_URL --api-key $OPENAI_API_KEY --eval-type openai_api --datasets gsm8k --limit 5
// cas d'usage

Ce que vous pouvez créer

Advertisement
// faq

Questions fréquentes

Who maintains evalscope?

It is maintained by modelscope on GitHub (modelscope/evalscope), where the source, issues and releases live.

Is it free to use?

Yes — it is free and open source under Apache-2.0, which permits use, modification and commercial redistribution, with licence/notice retention.

Does it need a paid API key?

For API models you supply that provider's key; local models downloaded from ModelScope need no paid key, just compute.

How does it compare to OpenCompass or lm-eval used standalone?

Compared with OpenCompass or lm-eval used standalone, evalscope's distinguishing focus is: a streamlined framework for evaluating and benchmarking LLMs, VLMs and AIGC models. Pick it when that focus matches your need; the alternative may suit you better if its broader or different scope is the priority.

How do I get started?

Clone https://github.com/modelscope/evalscope (or install its published package), follow the README quick start to install and configure it, then run the smallest documented example — the Run section on this page mirrors those steps.

// continuez l'exploration

Outils similaires

Développement

ai-game-devtools

Resource hub for AI-powered game development — LLMs, world models, agents.

★ 1,4 k étoilesMIT
Voir le guide →
Développement

ms-swift

Fine-tune and deploy 600+ LLMs and 300+ multimodal models with PEFT or full-parameter training.

★ 15,8 k étoilesApache-2.0
Voir le guide →
Développement

LlamaFactory

Unified, efficient fine-tuning of 100+ LLMs and VLMs with a CLI and Web UI — ACL 2024

★ 75,4 k étoilesApache-2.0
Voir le guide →
Développement

little-coder

A coding-agent harness optimized for smaller local LLMs — small models, serious coding work

★ 2,7 k étoilesApache-2.0
Voir le guide →
Développement

backend.ai

Backend.AI is a streamlined, container-based computing cluster platform.

★ 674 étoilesLGPL-3.0
Voir le guide →
Développement

superduper

An end-to-end framework for building custom AI applications and agents on top of your database.

★ 5,3 k étoilesApache-2.0
Voir le guide →
// alternatives

Alternatives en Développement

Les autres projets de la catégorie Développement avec le plus d'étoiles du catalogue LibreAI — la sélection réaliste d'alternatives si evalscope ne vous convient pas.

// plus en devtools

Plus en Développement

Projets de la catégorie Développement proches dans le catalogue, les plus proches en étoiles de evalscope — continuez à explorer de part et d'autre.

Obtenir evalscope

Gratuit et ouvert : récupérez le code source, mettez une étoile au dépôt et commencez à créer.