KI-Agenten und Agentic AI: Grundlagen, Einsatzmöglichkeiten und Governance

1. Was sind KI-Agenten?
2. Was bedeutet Agentic AI?
3. Wie funktionieren KI-Agenten?
4. Welche Rolle spielen Tools?
5. Was unterscheidet KI-Agenten von Chatbots und generativer KI?
6. Welche Arten von KI-Agenten gibt es?
7. Was sind Multi-Agenten-Systeme?
8. Welche Aufgaben und Einsatzmöglichkeiten haben KI-Agenten?
9. Welche Chancen und Risiken bieten KI-Agenten?
10. Wie lassen sich KI-Agenten sicher in bestehende IT-Systeme integrieren?
11. Wie führt man KI-Agenten im Unternehmen ein?
12. Welche Rolle spielen Governance, Datenschutz und der EU AI Act?
13. Zukunft von KI-Agenten
14. Fazit
15. FAQ

Wie funktionieren KI-Agenten?

Die Arbeitsweise lässt sich vereinfacht als wiederkehrender Kreislauf darstellen:

Wahrnehmen → Ziel und Kontext verstehen → planen → handeln → Ergebnis prüfen → nächsten Schritt bestimmen

Ein Agent bekommt beispielsweise den Auftrag, einen eingehenden Vorgang zu bearbeiten. Zunächst analysiert er die vorhandenen Informationen. Anschließend ermittelt er, welche Daten fehlen und welche Systeme benötigt werden. Er ruft die Informationen ab, führt Prüfungen durch und bewertet die Ergebnisse. Abhängig davon setzt er den Prozess fort, fordert Informationen nach oder bindet einen Menschen ein.

Technisch benötigt ein solches System mehrere Ebenen.

Die Benutzer- und Anwendungsschnittstelle

Menschen oder andere Softwaresysteme übergeben Ziele und Aufträge. Das kann über Chat und Sprache, eine Benutzeroberfläche oder direkt über eine API erfolgen.

Der Agent

Der Agent besitzt eine Rolle, einen definierten Aufgabenbereich und Entscheidungslogik. Häufig nutzt er ein Large Language Model, um Sprache, Kontext und komplexe Aufgaben zu verarbeiten.

Die Orchestrierung

Eine Orchestrierungsinstanz koordiniert Arbeitsschritte, Zustände und gegebenenfalls mehrere Agenten. Sie sorgt dafür, dass Ergebnisse weitergegeben, Aufgaben verteilt und Eskalationen ausgelöst werden.

Die Integration

Über Schnittstellen erhält der Agent Zugang zur bestehenden IT: Datenbanken, Dokumentenmanagement, CRM, ERP, Fachverfahren, Service-Management-Systeme oder Cloud-Dienste.

Die technische und organisatorische Basis

Dazu gehören Modelle, Datenplattformen, Cloud- oder On-Premises-Infrastruktur, Identity and Access Management, Monitoring, Security und Governance.

Eine solche Schichtenlogik findet sich beispielsweise auch in Maternas MATTER-Ansatz für agentische Anwendungen. Dort werden Experience, Agent, Orchestration, Integration und Foundation als zusammenhängende Architektur betrachtet.

Zu den typischen technologischen Bausteinen gehören außerdem Retrieval Augmented Generation (RAG), Vektordatenbanken, Memory-Mechanismen, Workflow-Engines sowie Planning- und Reasoning-Komponenten.

Wie lassen sich KI-Agenten sicher in bestehende IT-Systeme integrieren?

Die Integration entscheidet häufig stärker über den produktiven Erfolg als die Auswahl des KI-Modells.

Ein Agent benötigt Zugang zu Daten und Anwendungen, um handeln zu können. Gleichzeitig sollte dieser Zugang so eng wie möglich begrenzt bleiben.

Dafür sind mehrere Architekturprinzipien relevant.

Klare Schnittstellen

Agenten sollten über kontrollierte APIs und klar definierte Services mit der bestehenden IT kommunizieren. Modulare Microservices sind leichter zu prüfen und auszutauschen als monolithische Agenten mit umfassenden Systemrechten. Dieses Muster wird beispielsweise bei agentischen Verwaltungsanwendungen eingesetzt.

Eigene digitale Identitäten

Jeder produktive Agent sollte eindeutig identifizierbar sein.

Damit lässt sich nachvollziehen, welcher Agent welche Aktion ausgeführt hat. Zugleich können individuelle Berechtigungen vergeben und bei Bedarf gezielt entzogen werden.

Least Privilege

Ein Agent erhält ausschließlich die Rechte, die er für seine Aufgabe benötigt.

Ein Rechercheagent braucht keinen Schreibzugriff auf Stammdaten. Ein Dokumentationsagent muss keine Zahlung auslösen können. Der Handlungsspielraum folgt der Aufgabe.

Sandboxing

Besonders sensible oder experimentelle Aktionen können in isolierten Umgebungen ausgeführt werden. Ein Fehler bleibt dadurch technisch stärker eingegrenzt.

Dieses Prinzip findet sich bereits in Multi-Agenten-Architekturen, bei denen einzelne Subagenten in separaten Containern laufen.

Human-in-the-Loop

Folgenreiche Aktionen können an menschliche Freigaben gebunden werden.

Wie eng die Kontrolle ausfällt, hängt vom Risiko ab. Reversible Standardaktionen benötigen weniger Aufsicht als Zahlungen, Änderungen an kritischen Systemen oder rechtlich relevante Entscheidungen.

Logging und Observability

Es sollte jederzeit nachvollziehbar sein:

welcher Agent aktiv war, welches Ziel er erhielt, auf welche Daten er zugriff, welche Tools er verwendete, welche anderen Agenten beteiligt waren und welche Aktionen daraus entstanden.

Kontrollierte Betriebsmodelle

Abhängig vom Schutzbedarf können Public Cloud, souveräne Cloud, hybride Architekturen oder On-Premises-Betrieb sinnvoll sein.

Souveränität bedeutet dabei keine pauschale Entscheidung gegen Cloud-Dienste. Entscheidend sind Datenhoheit, technologische Wahlfreiheit, operative Kontrolle und die Möglichkeit, Governance-Anforderungen durchzusetzen. Das MATTER-Dossier unterscheidet entsprechend zwischen technologischer, operativer, Daten- und Governance-Souveränität.

Zukunft von KI-Agenten

Die Entwicklung dürfte in zwei Richtungen verlaufen: mehr Spezialisierung und weniger sichtbare KI.

Heute wird KI meist über eine eigene Oberfläche aufgerufen. Nutzer öffnen einen Chat, formulieren einen Prompt und warten auf eine Antwort.

Künftig können Agenten stärker im Hintergrund arbeiten. Sie reagieren auf Ereignisse, prüfen Eingänge, koordinieren Systeme, priorisieren Aufgaben und starten Prozesse, ohne dass für jeden Schritt ein Mensch einen Prompt formuliert.

Damit verändert sich auch die Rolle klassischer Benutzeroberflächen. Mitarbeitende müssen sich womöglich seltener durch einzelne Anwendungen bewegen. Sie formulieren ein Ziel, während ein Agent Informationen aus mehreren Systemen zusammenführt.

Parallel entstehen stärker vernetzte Agentenökosysteme. Spezialisierte Agenten verschiedener Anbieter oder Organisationen könnten miteinander kommunizieren und Aufgaben über Systemgrenzen hinweg koordinieren. Standards für Agent-to-Agent-Kommunikation und Werkzeugzugriffe gewinnen deshalb an Bedeutung. Die Materna-Unterlagen beschreiben diese Entwicklung bereits als Weg hin zu „Agentic Ecosystems“, in denen mehrere Agenten End-to-End-Prozesse bearbeiten und Menschen vor allem Governance und Qualitätskontrolle übernehmen.

Eine weitere Zukunftsfrage betrifft digitale Souveränität. Wenn Agenten Entscheidungen vorbereiten und zunehmend selbst ausführen, reicht Kontrolle über Daten und Infrastruktur allein nicht mehr aus. Organisationen müssen auch verstehen und steuern können, welche maschinelle Entscheidungslogik ihre Prozesse prägt. In den aktuellen strategischen Überlegungen wird diese Erweiterung bereits als „Cognitive Sovereignty“ diskutiert.

Damit dürfte eine paradoxe Entwicklung entstehen: Je leistungsfähiger und unsichtbarer KI-Agenten werden, desto sichtbarer müssen ihre Governance und Verantwortlichkeiten werden.