Glossar: Begriffe zu KI-Agenten, Automatisierung und KI-Governance.

KI-Agent

Ein KI-Agent ist ein Softwaresystem, das mithilfe eines Sprachmodells Informationen auswertet, Entscheidungen vorbereitet und über Schnittstellen Aktionen in anderen Systemen ausführt. Im Unternehmen braucht jeder Agent festgelegte Rechte, Freigaben und eine verantwortliche Person.

Agentensystem

Ein Agentensystem ist das Zusammenspiel aus einem oder mehreren KI-Agenten, den angebundenen Systemen, Datenquellen, Freigabeschritten und der Protokollierung. Der Begriff beschreibt die gesamte Betriebsumgebung, nicht nur den einzelnen Agenten.

Agentic AI

Agentic AI ist der englische Sammelbegriff für KI-Anwendungen, die nicht nur Texte erzeugen, sondern Aufgaben in mehreren Schritten eigenständig planen und mit Werkzeugen ausführen. Im Deutschen wird meist von KI-Agenten oder agentenbasierten Systemen gesprochen.

KI-Automatisierung

KI-Automatisierung bezeichnet die Automatisierung von Abläufen, bei denen ein Sprachmodell Inhalte liest, einordnet oder formuliert. Sie ergänzt klassische Automatisierung dort, wo feste Regeln nicht ausreichen, etwa bei E-Mails, Dokumenten oder freien Texten.

Prozessautomatisierung

Prozessautomatisierung ist die Ausführung wiederkehrender Arbeitsschritte durch Software nach festen Regeln, zum Beispiel die Übertragung von Daten zwischen zwei Systemen. Sie ist zuverlässig und wirtschaftlich, solange ein Ablauf ohne Ermessensspielraum auskommt.

Sprachmodell (LLM)

Ein Sprachmodell, englisch Large Language Model (LLM), ist ein KI-Modell, das Text versteht und erzeugt. Es bildet die Grundlage für KI-Agenten, trifft aber allein keine Entscheidungen in Unternehmenssystemen.

Use Case

Ein Use Case ist ein konkreter Anwendungsfall für KI in einem Unternehmen, zum Beispiel die Prüfung von Eingangsrechnungen gegen Bestellungen. Use Cases werden nach Wertbeitrag, Umsetzbarkeit und Risikoprofil bewertet und priorisiert.

Schnittstelle (API)

Eine Schnittstelle, englisch Application Programming Interface (API), ist der technische Zugang, über den Software Daten mit anderen Systemen austauscht. KI-Agenten lesen und verändern Daten in CRM, ERP oder Ticketing ausschließlich über solche Schnittstellen.

Tool Calling

Tool Calling bezeichnet die Fähigkeit eines Sprachmodells, festgelegte Werkzeuge aufzurufen, etwa eine Suche im CRM oder das Anlegen eines Tickets. Welche Werkzeuge ein Agent nutzen darf, wird je Agent festgelegt.

Model Context Protocol (MCP)

Das Model Context Protocol ist ein offener Standard, mit dem KI-Anwendungen einheitlich an Werkzeuge und Datenquellen angebunden werden. Anthropic hat ihn im November 2024 veröffentlicht; inzwischen unterstützen ihn zahlreiche Anbieter.

Retrieval-Augmented Generation (RAG)

Retrieval-Augmented Generation ist ein Verfahren, bei dem ein Sprachmodell vor der Antwort passende Inhalte aus freigegebenen Quellen abruft, etwa aus Richtlinien oder Handbüchern. So stützt sich die Antwort auf Unternehmenswissen statt nur auf das Training des Modells.

Orchestrierung

Orchestrierung ist die Steuerung mehrerer Schritte, Agenten oder Werkzeuge in der richtigen Reihenfolge, einschließlich Wiederholungen, Fehlerbehandlung und Übergaben an Menschen.

Systemintegration

Systemintegration ist die Anbindung eines KI-Agenten an die bestehende Systemlandschaft eines Unternehmens, etwa CRM, ERP, Ticketing, E-Mail und Dokumentenablagen, einschließlich Rechten und Datenflüssen.

Halluzination

Eine Halluzination ist eine inhaltlich falsche Aussage eines Sprachmodells, die überzeugend formuliert ist. Freigegebene Quellen, Quellenangaben, Stichproben und menschliche Freigaben verringern das Risiko.

Prompt Injection

Prompt Injection ist ein Angriff, bei dem versteckte Anweisungen in E-Mails, Dokumenten oder Webseiten ein Sprachmodell zu unerwünschten Handlungen verleiten sollen. Schutz bieten unter anderem die Trennung von gelesenen Inhalten und Handlungsrechten sowie Freigaben vor externen Aktionen.

KI-Governance

KI-Governance umfasst die Regeln, Rollen und Verfahren, mit denen ein Unternehmen den Einsatz von KI steuert: wer Anwendungsfälle freigibt, welche Rechte ein System erhält, wie Ergebnisse geprüft und protokolliert werden und wer verantwortlich ist.

Agent Board

Ein Agent Board ist ein bereichsübergreifendes Gremium aus Geschäftsführung, Prozessverantwortlichen, IT, Informationssicherheit, Datenschutz und Arbeitnehmervertretung. Es entscheidet über Freigabe, Berechtigungen und Autonomiestufe jedes Agenten sowie über Ausbau oder Stilllegung.

Autonomiestufen

Autonomiestufen legen fest, wie selbstständig ein KI-Agent handeln darf: Stufe 1 Assistenz, Stufe 2 Vorbereitung, Stufe 3 Ausführung nach Freigabe, Stufe 4 eigenständige Ausführung in definierten Grenzen. Über jede höhere Stufe entscheidet das Agent Board anhand von Kennzahlen.

Human-in-the-Loop

Human-in-the-Loop bedeutet, dass ein Mensch an festgelegten Stellen eines automatisierten Ablaufs prüft und entscheidet, bevor das System weiterarbeitet. Typisch sind Freigaben vor Zahlungen, externen Nachrichten oder Änderungen an Stammdaten.

Least-Privilege-Prinzip

Nach dem Least-Privilege-Prinzip erhält ein System nur die Rechte, die seine Aufgabe erfordert. Bei KI-Agenten werden Lese-, Schreib- und Ausführungsrechte je System getrennt vergeben und dokumentiert.

Protokollierung

Protokollierung ist die vollständige und nachvollziehbare Aufzeichnung aller Aktionen, Werkzeugaufrufe, Entscheidungen und Freigaben eines Agenten, jeweils einer verantwortlichen Person zugeordnet.

Datenklassifizierung

Datenklassifizierung legt fest, welche Daten ein Sprachmodell verarbeiten darf, wo sie verarbeitet werden und welche Speicher- und Löschfristen gelten.

EU AI Act

Der EU AI Act, die Verordnung (EU) 2024/1689, regelt den Einsatz von KI in der Europäischen Union nach einem risikobasierten Ansatz. Die Pflichten gelten gestaffelt ab 2025. Die rechtliche Einordnung eines konkreten Systems erfolgt durch die Rechtsabteilung oder eine externe Rechtsberatung.

DSGVO

Die Datenschutz-Grundverordnung (DSGVO) regelt die Verarbeitung personenbezogener Daten in der EU. Für KI-Agenten sind vor allem Zweckbindung, Datenminimierung, Auftragsverarbeitung und Löschfristen relevant.

Mitbestimmung bei KI

In Deutschland hat der Betriebsrat Mitbestimmungsrechte, wenn technische Einrichtungen geeignet sind, Verhalten oder Leistung von Beschäftigten zu überwachen. KI-Vorhaben sollten die Arbeitnehmervertretung deshalb früh einbinden, mit einer klaren Beschreibung von Funktionsumfang und ausgeschlossenen Auswertungen.

AI Operating Review

Das AI Operating Review ist das Einstiegsmandat von DENQ und dauert zwei bis drei Wochen. Es ergibt ein priorisiertes Use-Case-Portfolio, Business Cases, eine Bewertung bestehender Initiativen, einen Governance-Rahmen und eine Umsetzungsempfehlung.

KI-Readiness

KI-Readiness beschreibt, wie gut ein Unternehmen auf den Einsatz von KI im Tagesgeschäft vorbereitet ist: Zielbild und Prioritäten, beschriebene Prozesse und verfügbare Daten, Governance, Verantwortlichkeiten und Messung.

Eignungsprüfung

Die Eignungsprüfung klärt vor jeder Empfehlung, ob ein Prozess einen KI-Agenten braucht. Geprüft werden Wiederholung und Volumen, Beurteilungsbedarf, verfügbare Daten, eindeutige Verantwortung und ein vertretbares Risikoprofil.

Regelbetrieb

Regelbetrieb bedeutet, dass eine KI-Anwendung dauerhaft im Tagesgeschäft läuft, mit festen Verantwortlichen, Kennzahlen, Überwachung und einem geregelten Verfahren für Änderungen, anders als ein zeitlich begrenztes Pilotprojekt.

Business Case

Ein Business Case stellt für einen Anwendungsfall Aufwand, erwartete Wirkung und die Kennzahlen gegenüber, an denen der Erfolg gemessen wird. Er ist Grundlage für die Freigabe durch die Geschäftsführung oder das Agent Board.

Value Tracking

Value Tracking ist die laufende Messung der Wirkung einer KI-Anwendung, etwa über Bearbeitungsvolumen, Durchlaufzeit, Korrekturquote und Ausnahmefälle. Die Kennzahlen fließen in Entscheidungen über Autonomiestufen und Skalierung ein.

Korrekturquote

Die Korrekturquote ist der Anteil der Ergebnisse eines Agenten, die von Menschen korrigiert werden mussten. Sie ist eine zentrale Kennzahl für die Entscheidung über eine höhere Autonomiestufe.

Welche dieser Themen betreffen Ihr Unternehmen?

Der KI-Readiness-Check zeigt in etwa vier Minuten, wo Sie stehen.