KI-Governance: Informationssicherheit und Compliance als Teil der Lösungsarchitektur.
Diese Seite richtet sich an die Funktionen, die über die Freigabe von KI-Anwendungen mitentscheiden: Informationssicherheit, Datenschutz, Legal und Arbeitnehmervertretung. Wir binden sie ab dem ersten Architekturentwurf ein und stellen ihnen die Unterlagen bereit, die sie für ihre Freigabe benötigen.
TRAGENDE PRINZIPIEN
Security by DesignVON BEGINN AN
Compliance by DesignAUSGERICHTET AN EU AI ACT, DSGVO
NachvollziehbarkeitVOLLSTÄNDIG PROTOKOLLIERT
Prinzipien01
Fünf Prinzipien, die in jeder Lösung von Anfang an gelten.
Least-Privilege-Prinzip
Jeder Agent erhält ausschließlich die Berechtigungen, die sein Auftrag erfordert. Lese-, Schreib- und Ausführungsrechte werden je System getrennt vergeben und dokumentiert.
Freigabeprozesse
Kritische Aktionen unterliegen definierten Human-in-the-Loop-Kontrollen. Jede Freigabe enthält empfohlene Aktion, Begründung, Datengrundlage und Risiko.
Nachvollziehbarkeit
Alle Aktionen, Entscheidungen, Werkzeugaufrufe und Freigaben werden vollständig und nachvollziehbar protokolliert und sind einem verantwortlichen Menschen zugeordnet.
Datenklassifizierung
Wir legen fest, welche Daten an Sprachmodelle übermittelt werden dürfen, wo sie verarbeitet werden und welche Speicher- und Löschfristen gelten.
Schutzmechanismen
Agenten, die externe Inhalte wie E-Mails oder Dokumente verarbeiten, sichern wir gegen Manipulation ab, etwa durch Trennung von Lese- und Handlungsrechten.
Autonomiestufen02
Verantwortung wächst mit nachgewiesener Leistung.
Über den Übergang in die nächste Stufe entscheidet das Agent Board auf Basis definierter Kennzahlen. Nicht jeder Prozess ist für eine höhere Stufe geeignet.
STUFEBEZEICHNUNGROLLE DES AGENTENROLLE DES MENSCHENVORAUSSETZUNG
1AssistenzAnalyse und EmpfehlungEntscheidung und UmsetzungEinführung
2VorbereitungEntwürfe, Auswertungen, DatensätzePrüfung und FreigabeStabile Ergebnisqualität
3Ausführung nach FreigabeUmsetzung nach BestätigungBestätigung oder AbbruchNiedrige Korrekturquote
4Eigenständige AusführungUmsetzung in definierten GrenzenStichproben und AusnahmenBeschluss des Agent Boards
Einbindung der Stakeholder03
Was wir Ihren Fachfunktionen für die Freigabe bereitstellen.
FÜRDatenschutz
Dokumentation der Datenflüsse und Verarbeitungszwecke, Datenklassifizierung sowie Speicher- und Löschkonzept je Agent.
FÜRInformationssicherheit
Berechtigungskonzept, Protokollierung, Schutzmaßnahmen gegen Manipulation und Einordnung in bestehende Sicherheitsrichtlinien.
FÜRArbeitnehmervertretung
Verständliche Beschreibung von Funktionsumfang und Rollenveränderungen sowie der Auswertungen, die ausdrücklich nicht vorgesehen sind.
FÜRLegal und Compliance
Aufbereitung der technischen und organisatorischen Grundlagen für die rechtliche Bewertung durch Ihre Fachfunktionen.
Rechtliche Bewertungen erfolgen durch Ihre Rechtsabteilung oder Ihre externe Rechtsberatung. Wir liefern die technische und organisatorische Grundlage dafür.
Agent Board04
Das Agent Board entscheidet über Freigabe, Berechtigungen und Autonomiestufe jedes Agenten.
Ein interdisziplinär besetztes Gremium ersetzt dezentrale Einzelentscheidungen durch eine einheitliche Entscheidungs- und Verantwortungsstruktur für alle KI-Anwendungen im Unternehmen.
Priorisierung und Freigabe von Use Cases
Auf Basis von Wertbeitrag, Risikoprofil und Umsetzbarkeit.
Autonomiestufen und Berechtigungen je Agent
Festlegung und Anpassung anhand definierter Kennzahlen.
Performance- und Risikomonitoring
Laufende Auswertung über das integrierte Value Tracking.
Skalierung, Anpassung oder Stilllegung
Entscheidung über den weiteren Einsatz jeder Lösung.
Betrieb05
Für jeden Fehlerfall ist vor dem Go-live festgelegt, wie der Agent reagiert.
Im Betrieb fehlen Daten, Schnittstellen fallen aus, und manche Fälle passen in keine Regel. Wie der Agent jeweils reagiert, legen wir mit Ihrer IT fest und testen es vor dem Go-live.
Welche Sprachmodelle und Rechenzentren eingesetzt werden, stimmen wir je Mandat mit Ihrer IT und Ihrem Datenschutz ab und dokumentieren es.
Unvollständige DatenDer Agent fragt nach oder übergibt an die verantwortliche Person, statt Lücken zu schätzen.
Widersprüchliche QuellenEs gilt die festgelegte führende Quelle. Die Abweichung wird dokumentiert und zur Klärung vorgelegt.
Zeitüberschreitung einer SchnittstelleBegrenzte Wiederholung, danach Übergabe an eine Person und Benachrichtigung der IT.
Doppelt ausgelöstes EreignisVor jeder Aktion wird geprüft, ob der Vorgang bereits bearbeitet wurde.
Fehlende BerechtigungDie Aktion wird abgebrochen und gemeldet. Einen Umweg über andere Rechte gibt es nicht.
Teilweise ausgeführte AktionDer Zwischenstand wird protokolliert und kontrolliert fortgesetzt oder zurückgenommen.
Unsicheres ErgebnisDer Vorgang wird als Ausnahme markiert und von einem Menschen freigegeben.
Unterlagen für Ihre Informationssicherheit und Ihren Datenschutz.
Wir stellen Ihren Fachfunktionen eine kompakte Übersicht zu unserem Governance-Ansatz zur Verfügung.