// devtools · modelscope/evalscope

evalscope

evalscope es un proyecto de herramientas de desarrollo de código abierto de modelscope (modelscope/evalscope en GitHub). Tiene 3.509 estrellas en GitHub y 509 bifurcaciones, se publica bajo la licencia Apache-2.0 y se actualizó por última vez en GitHub el 8 de octubre de 2026.

A streamlined framework for evaluating and benchmarking LLMs, VLMs and AIGC models.

★ 3,5k estrellas⑂ 509 bifurcacionesApache-2.0actualizado oct 2026
▦ visual: el README de este proyecto no incluye ninguna captura incrustable,
así que aquí va un marcador. La guía de abajo está completa de todos modos.
// datos del proyecto

Datos del proyecto

Estrellas en GitHub
3.509
Bifurcaciones
509
Licencia
Apache-2.0
Última actualización en GitHub
8 de octubre de 2026
Tipo de ficha
Guía de instalación completa
Sitio oficial
Official site
// cómo funciona

Cómo funciona

  1. Clarify your goal

    Decide the first concrete outcome you want from it, so you can pick the right example, template or mode instead of exploring everything at once.

  2. Get the project

    Clone the repository (or install the published package) and skim its README quick start for the requirements for your platform.

  3. Install and configure

    Run the documented install step and set any required configuration — such as provider keys, data sources or local services — before the first run.

  4. Run your first task

    Execute the smallest documented example end to end, confirm the output is what you expected, then adapt it to your real data or workflow.

// características

Por qué gusta tanto

Comprehensive benchmarks

Industry-recognised benchmarks including MMLU, C-Eval and GSM8K built in, with custom dataset support.

Multi-modal, multi-domain

Evaluate LLMs, VLMs, embedding, reranker and AIGC models in one framework.

Multiple backends

Native backend plus OpenCompass, VLMEvalKit and RAGEval integrations.

Agent evaluation mode

Drive benchmarks such as GSM8K, AIME and SWE-bench Agentic inside a controlled multi-turn AgentLoop with Docker sandbox and full traces.

Performance testing

Stress-test model services with TTFT, TPOT and throughput metrics, recordable to wandb/swanlab.

Reports and arena

Interactive web dashboard for comparison, plus pairwise Arena mode to rank models head-to-head.

Advertisement
// ejecútalo

Ejecútalo tú mismo

  1. Clone the repository

    Get the source so you can inspect, configure and run it locally.

    git clone https://github.com/modelscope/evalscope.git
    cd evalscope
  2. Install EvalScope

    Install the package from PyPI.

    pip install evalscope
  3. Evaluate a model API

    Run a first benchmark against an OpenAI-compatible endpoint.

    evalscope eval --model your-model-name --api-url $OPENAI_API_BASE_URL --api-key $OPENAI_API_KEY --eval-type openai_api --datasets gsm8k --limit 5
// casos de uso

Qué puedes crear

Advertisement
// preguntas frecuentes

Preguntas frecuentes

Who maintains evalscope?

It is maintained by modelscope on GitHub (modelscope/evalscope), where the source, issues and releases live.

Is it free to use?

Yes — it is free and open source under Apache-2.0, which permits use, modification and commercial redistribution, with licence/notice retention.

Does it need a paid API key?

For API models you supply that provider's key; local models downloaded from ModelScope need no paid key, just compute.

How does it compare to OpenCompass or lm-eval used standalone?

Compared with OpenCompass or lm-eval used standalone, evalscope's distinguishing focus is: a streamlined framework for evaluating and benchmarking LLMs, VLMs and AIGC models. Pick it when that focus matches your need; the alternative may suit you better if its broader or different scope is the priority.

How do I get started?

Clone https://github.com/modelscope/evalscope (or install its published package), follow the README quick start to install and configure it, then run the smallest documented example — the Run section on this page mirrors those steps.

// sigue explorando

Herramientas similares

Herramientas de desarrollo

ai-game-devtools

Resource hub for AI-powered game development — LLMs, world models, agents.

★ 1,4k estrellasMIT
Ver la guía →
Herramientas de desarrollo

ms-swift

Fine-tune and deploy 600+ LLMs and 300+ multimodal models with PEFT or full-parameter training.

★ 15,8k estrellasApache-2.0
Ver la guía →
Herramientas de desarrollo

LlamaFactory

Unified, efficient fine-tuning of 100+ LLMs and VLMs with a CLI and Web UI — ACL 2024

★ 75,4k estrellasApache-2.0
Ver la guía →
Herramientas de desarrollo

little-coder

A coding-agent harness optimized for smaller local LLMs — small models, serious coding work

★ 2,7k estrellasApache-2.0
Ver la guía →
Herramientas de desarrollo

backend.ai

Backend.AI is a streamlined, container-based computing cluster platform.

★ 674 estrellasLGPL-3.0
Ver la guía →
Herramientas de desarrollo

superduper

An end-to-end framework for building custom AI applications and agents on top of your database.

★ 5,3k estrellasApache-2.0
Ver la guía →
// alternativas

Alternativas en Herramientas de desarrollo

Los demás proyectos de Herramientas de desarrollo con más estrellas del catálogo de LibreAI: la lista realista de alternativas si evalscope no es lo que buscas.

// más en devtools

Más en Herramientas de desarrollo

Proyectos de Herramientas de desarrollo cercanos en el catálogo, los más próximos en estrellas a evalscope: sigue explorando a ambos lados.

Consigue evalscope

Gratis y abierto: consigue el código fuente, dale una estrella al repositorio y empieza a crear.