LibreAI / KI-Agenten / promptfoo
// agents · promptfoo/promptfoo

promptfoo

promptfoo ist ein Open-Source-Projekt aus der Kategorie KI-Agenten von promptfoo (promptfoo/promptfoo auf GitHub). Es hat 25.815 Sterne auf GitHub und 2.452 Forks, wird unter der Lizenz MIT veröffentlicht und wurde zuletzt am 8. Oktober 2026 auf GitHub aktualisiert.

Test prompts, agents and RAGs — LLM evals, red teaming and model comparisons from the CLI

★ 25,8 Tsd. Sterne⑂ 2,5 Tsd. ForksMITaktualisiert Okt 2026
▦ Visual — das README dieses Projekts enthält keinen einbettbaren Screenshot,
darum hier ein Platzhalter. Die Anleitung unten ist trotzdem vollständig.
// projektdaten

Projektdaten

GitHub-Sterne
25.815
Forks
2.452
Lizenz
MIT
Zuletzt auf GitHub aktualisiert
8. Oktober 2026
Kategorie
KI-Agenten
Eintragstyp
Vollständige Installationsanleitung
Offizielle Website
Official site
// so funktioniert es

So funktioniert es

  1. Clarify your goal

    Decide what you want to achieve with promptfoo and check the README on GitHub for requirements before installing.

  2. Get the code

    Clone the repository from GitHub (or take the packaged install route in step 3 if the README offers one).

  3. Install and configure

    Follow the project's documented install commands — the Run section below lists the exact ones — and add any required API keys or models.

  4. Run your first task

    Work through the README's quickstart example end to end, then adapt it to your own project or data.

// funktionen

Warum es so beliebt ist

Prompt and model comparison

Run the same test set across models and prompts to compare quality side by side.

Red teaming and vulnerability scanning

Automated probes for prompt injection, jailbreaks and other AI security issues.

RAG and agent evaluation

Evaluate retrieval pipelines and agent behaviors, not just single prompts.

Declarative configs

Tests live in simple config files that version well in git.

CI/CD integration

Designed to run in pipelines so regressions block deploys.

Local-first CLI

Runs from your terminal with npx — no platform account required to start.

Advertisement
// selbst ausführen

Führe es selbst aus

  1. Clone the repository

    Get the Promptfoo source and examples.

    git clone https://github.com/promptfoo/promptfoo.git
    cd promptfoo
  2. Install the CLI

    Install globally from npm (brew and pip installs are also documented), or skip installation with npx.

    npm install -g promptfoo
  3. Run your first eval

    Initialize an example config, add your model key, and run the evaluation.

    promptfoo init
    promptfoo eval
// anwendungsfälle

Was du damit bauen kannst

Advertisement
// häufige fragen

Häufige Fragen

Who maintains promptfoo?

promptfoo is maintained by the promptfoo organization/account on GitHub, together with open-source contributors, in the public repository promptfoo/promptfoo.

Is promptfoo free to use?

Yes — the code is open source under the MIT license. You can use, modify and redistribute it under that license's terms.

Does promptfoo need a paid API key?

Promptfoo is free and MIT-licensed; evaluations call the models you test, so you need API keys for those providers (local/open models are also supported).

How does promptfoo compare to LangSmith / Braintrust?

Those are hosted evaluation platforms; Promptfoo is a local-first, config-in-git CLI with strong red-teaming — lighter to adopt, and your tests live with your code.

How do I get started with promptfoo?

Clone the repository from GitHub, follow the install commands in the Run section (taken from the project's README), and complete the documented quickstart example before adapting it to your own use case.

// weiter entdecken

Ähnliche Tools

KI-Agenten

bisheng

Enterprise LLM app platform: GenAI workflows, RAG, agents, model management, evaluation, fine-tuning.

★ 12,0 Tsd. SterneApache-2.0
Anleitung ansehen →
KI-Agenten

pi

A TypeScript toolkit for building agents: unified LLM API, loop, TUI, and CLI.

★ 113,3 Tsd. SterneMIT
Anleitung ansehen →
KI-Agenten

botpress

Open-source hub of integrations, SDK and CLI for building and deploying GPT/LLM chatbots and agents.

★ 14,9 Tsd. SterneMIT
Anleitung ansehen →
KI-Agenten

deepteam

Open-source red-teaming framework that stress-tests LLMs and AI agents.

★ 3,0 Tsd. SterneApache-2.0
Anleitung ansehen →
KI-Agenten

MobileBuildMCP

An MCP server and CLI that lets AI agents build, test and run iOS and macOS projects.

★ 6,5 Tsd. SterneMIT
Anleitung ansehen →
KI-Agenten

agentdojo

Test your agents against prompt-injection attacks.

★ 897 SterneMIT
Anleitung ansehen →
// alternativen

Alternativen im Bereich KI-Agenten

Die anderen Projekte der Kategorie KI-Agenten mit den meisten Sternen im LibreAI-Katalog — die realistische Auswahl, falls promptfoo nicht das Richtige ist.

// mehr in agents

Mehr in KI-Agenten

Verwandte Projekte der Kategorie KI-Agenten im Katalog, die promptfoo bei den Sternen am nächsten stehen — zum Weiterstöbern auf beiden Seiten.

Hol dir promptfoo

Kostenlos und offen — hol dir den Quellcode, gib dem Repository einen Stern und leg los.