LibreAI / KI-Agenten / NeMo-Agent-Toolkit
// agents · NVIDIA/NeMo-Agent-Toolkit

NeMo-Agent-Toolkit

NeMo-Agent-Toolkit ist ein Open-Source-Projekt aus der Kategorie KI-Agenten von NVIDIA (NVIDIA/NeMo-Agent-Toolkit auf GitHub). Es hat 2.661 Sterne auf GitHub und 780 Forks, wird unter der Lizenz Apache-2.0 veröffentlicht und wurde zuletzt am 8. Oktober 2026 auf GitHub aktualisiert.

NVIDIA's toolkit for connecting, profiling and optimizing teams of AI agents — across any framework

★ 2,7 Tsd. Sterne⑂ 780 ForksApache-2.0aktualisiert Okt 2026
▦ Visual — das README dieses Projekts enthält keinen einbettbaren Screenshot,
darum hier ein Platzhalter. Die Anleitung unten ist trotzdem vollständig.
// projektdaten

Projektdaten

GitHub-Sterne
2.661
Forks
780
Lizenz
Apache-2.0
Zuletzt auf GitHub aktualisiert
8. Oktober 2026
Kategorie
KI-Agenten
Eintragstyp
Vollständige Installationsanleitung
Offizielle Website
Official site
// so funktioniert es

So funktioniert es

  1. Clarify your goal

    Decide what you need: build a new workflow, or instrument, profile and evaluate an agent you already have in another framework.

  2. Get the toolkit

    pip install nvidia-nat, adding the extra for your framework; clone the repo if you want the examples.

  3. Install and configure

    Write a workflow.yml defining functions (tools), LLMs and the workflow agent, and set your model key (e.g. NVIDIA_API_KEY for NVIDIA NIMs from build.nvidia.com).

  4. Run your first workflow

    Run nat run --config_file workflow.yml --input "..." and inspect the result, then open the built-in UI to chat with and debug the workflow.

// funktionen

Warum es so beliebt ist

Framework agnostic

Works side-by-side with LangChain, LlamaIndex, CrewAI, Semantic Kernel, Google ADK and custom frameworks to add instrumentation without a rewrite.

Profiling and observability

Profile entire workflows from agent level down to individual tokens, trace execution and understand runtime behavior in production.

Evaluation and optimization

An offline evaluation system, a hyper-parameter and prompt optimizer, and reinforcement-learning fine-tuning support for agent-specific models.

Protocol support

Integrate MCP tools into agents or publish workflows as MCP servers (FastMCP publishing), and build distributed agent teams with the A2A protocol with authentication.

Performance primitives

Agent Performance Primitives accelerate graph frameworks (LangChain, CrewAI, Agno) with parallel execution, speculative branching and node-level priority routing.

Reusable components and UI

Build tools and workflows once and reuse them; a built-in chat UI lets you interact with agents and debug workflows visually.

Advertisement
// selbst ausführen

Führe es selbst aus

  1. Clone the repo

    Clone the toolkit if you want the examples locally; the library installs from PyPI in step 2.

    git clone https://github.com/NVIDIA/NeMo-Agent-Toolkit.git
    cd NeMo-Agent-Toolkit
  2. Install from PyPI

    Install the core package, adding a framework extra such as [langchain] if needed (Python 3.11–3.13).

    pip install nvidia-nat
    # e.g. pip install "nvidia-nat[langchain]"
  3. Run the Hello World workflow

    Set your NVIDIA key, save the README's workflow.yml (a ReAct agent with a Wikipedia tool), and run it with the nat CLI.

    export NVIDIA_API_KEY=<your-key>
    nat run --config_file workflow.yml --input "List five subspecies of Aardvarks"
// anwendungsfälle

Was du damit bauen kannst

Advertisement
// häufige fragen

Häufige Fragen

Who maintains the NeMo Agent Toolkit?

NVIDIA maintains it, as part of the NeMo ecosystem; docs are at docs.nvidia.com/nemo/agent-toolkit.

Is it free?

Yes, Apache-2.0 licensed. Models you call (NVIDIA NIMs or other providers) have their own pricing.

Does it need a paid API key?

The Hello World uses NVIDIA NIMs with an NVIDIA_API_KEY from build.nvidia.com; the toolkit itself works with the LLM providers you configure in your workflow.

How does it compare to LangSmith alone?

LangSmith-style tracing is one piece (and the toolkit integrates with LangSmith natively). The toolkit also adds workflow composition, profiling, evaluation, optimization and protocol publishing across frameworks.

How do I get started?

pip install nvidia-nat, write a workflow.yml, and run nat run — or open the Colab introduction notebook with no local setup.

// weiter entdecken

Ähnliche Tools

KI-Agenten

agent-lightning

Microsoft's trainer for AI agents - reinforcement learning for almost any agent framework

★ 18,6 Tsd. SterneMIT
Anleitung ansehen →
KI-Agenten

hermes-agent

The agent that grows with you — a Python framework for adaptive AI agents.

★ 252,0 Tsd. SterneMIT
Anleitung ansehen →
KI-Agenten

agent-governance-toolkit

Policy, identity, and sandboxing guardrails for AI agents.

★ 6,4 Tsd. SterneMIT
Anleitung ansehen →
KI-Agenten

Swarm

Swarm — OpenAI's experimental framework for lightweight multi-agent orchestration with agents and handoffs, MIT

★ 22,1 Tsd. SterneMIT
Anleitung ansehen →
KI-Agenten

UFO

Microsoft's GUI agent that grew into UFO³ — orchestrating agents across Windows, Linux and mobile devices.

★ 10,0 Tsd. SterneMIT
Anleitung ansehen →
KI-Agenten

koog

Koog is a JVM (Java and Kotlin) framework for building predictable, fault-tolerant and enterprise-ready AI agents across all platforms – from backend service…

★ 4,6 Tsd. SterneApache-2.0
Anleitung ansehen →
// alternativen

Alternativen im Bereich KI-Agenten

Die anderen Projekte der Kategorie KI-Agenten mit den meisten Sternen im LibreAI-Katalog — die realistische Auswahl, falls NeMo-Agent-Toolkit nicht das Richtige ist.

// mehr in agents

Mehr in KI-Agenten

Verwandte Projekte der Kategorie KI-Agenten im Katalog, die NeMo-Agent-Toolkit bei den Sternen am nächsten stehen — zum Weiterstöbern auf beiden Seiten.

Hol dir NeMo-Agent-Toolkit

Kostenlos und offen — hol dir den Quellcode, gib dem Repository einen Stern und leg los.