// agents · NVIDIA/garak

garak

garak ist ein Open-Source-Projekt aus der Kategorie KI-Agenten von NVIDIA (NVIDIA/garak auf GitHub). Es hat 9.497 Sterne auf GitHub und 1.349 Forks, wird unter der Lizenz Apache-2.0 veröffentlicht und wurde zuletzt am 7. Oktober 2026 auf GitHub aktualisiert.

Scan your LLM for vulnerabilities before attackers do.

★ 9,5 Tsd. Sterne⑂ 1,3 Tsd. ForksApache-2.0aktualisiert Okt 2026
▦ Visual — das README dieses Projekts enthält keinen einbettbaren Screenshot,
darum hier ein Platzhalter. Die Anleitung unten ist trotzdem vollständig.
// projektdaten

Projektdaten

Repository
NVIDIA/garak
GitHub-Sterne
9.497
Forks
1.349
Lizenz
Apache-2.0
Zuletzt auf GitHub aktualisiert
7. Oktober 2026
Kategorie
KI-Agenten
Eintragstyp
Vollständige Installationsanleitung
// so funktioniert es

So funktioniert es

  1. Define what you want

    Write down the job you will use the project for before touching any code.

  2. Clone the repository

    Download the source and read the README's setup section first.

  3. Install dependencies

    Run the install steps and add any required API keys or config.

  4. Run the quickstart

    Follow the example in the docs to confirm everything works.

// funktionen

Warum es so beliebt ist

LLM vulnerability scanning

Probes models for known weakness classes.

NVIDIA-backed

Maintained under NVIDIA's organization.

Security focus

Built for pre-deployment adversarial testing.

Python tooling

Scriptable and extensible in Python.

Apache-2.0

Permissive licensing.

Active community

Discord plus 1,300+ forks.

Advertisement
// selbst ausführen

Führe es selbst aus

  1. Step 1 — Install

    Install garak from PyPI.

    pip install -U garak
  2. Step 2 — Pick a target

    Choose the model or endpoint you want to probe.

    # local model or API endpoint — see docs
  3. Step 3 — Run a scan

    Launch a probe run per the documentation.

    garak --help
    # see docs for scan commands
// anwendungsfälle

Was du damit bauen kannst

Advertisement
// häufige fragen

Häufige Fragen

Who maintains garak?

It is maintained under NVIDIA at NVIDIA/garak, with 1,349 forks.

Is garak free to use?

Yes. It is released under the Apache-2.0 license, which permits commercial use, modification, and redistribution. Read the LICENSE file for the exact terms.

Do I need a paid API to use it?

Scanning itself is local; you need access to the target model, via API or a local deployment.

How does it compare to other red-teaming tools?

Compare on probe coverage and reporting for the model types you ship.

How do I get started?

Install the package and follow the docs to run your first scan against a test model.

// weiter entdecken

Ähnliche Tools

KI-Agenten

modelscan

Scan AI models for serialization attacks before you load them.

★ 781 SterneApache-2.0
Anleitung ansehen →
KI-Agenten

vigil-llm

Detect prompt injections and jailbreaks before they hit your LLM.

★ 504 SterneApache-2.0
Anleitung ansehen →
KI-Agenten

career-ops

Open-source AI job search agent and job finder: scan job boards, score each job 1-5 against your CV before you apply, tailor an ATS-friendly resume and cover…

★ 73,4 Tsd. SterneMIT
Anleitung ansehen →
KI-Agenten

macos-harness

A minimal harness that lets an LLM fully control a Mac.

★ 902 SterneMIT
Anleitung ansehen →
KI-Agenten

deepeval

Unit tests for LLMs — evaluate before you ship.

★ 18,7 Tsd. SterneApache-2.0
Anleitung ansehen →
KI-Agenten

browser-harness

A self-healing harness that connects an LLM directly to your real browser

★ 18,4 Tsd. SterneMIT
Anleitung ansehen →
// alternativen

Alternativen im Bereich KI-Agenten

Die anderen Projekte der Kategorie KI-Agenten mit den meisten Sternen im LibreAI-Katalog — die realistische Auswahl, falls garak nicht das Richtige ist.

// mehr in agents

Mehr in KI-Agenten

Verwandte Projekte der Kategorie KI-Agenten im Katalog, die garak bei den Sternen am nächsten stehen — zum Weiterstöbern auf beiden Seiten.

Hol dir garak

Kostenlos und offen — hol dir den Quellcode, gib dem Repository einen Stern und leg los.