AI Risk Management
Der strukturierte Umgang mit Risiken aus AI-Systemen – technisch, rechtlich, ethisch und reputativ. Ergänzt klassisches Enterprise Risk Management um AI-spezifische Kontrollen.
Definition
AI Risk Management ist der strukturierte Umgang mit den Risiken, die aus dem Einsatz von AI-Systemen entstehen – technisch, rechtlich, ethisch und reputativ. Es ergänzt klassisches Enterprise Risk Management um AI-spezifische Kontrollen.
Typische AI-Risikokategorien
- Modellfehler: Fehlerhafte Vorhersagen durch Drift, Out-of-Distribution-Daten oder Fehler im Training
- Bias: Diskriminierende Muster in Modellergebnissen durch verzerrte Trainingsdaten
- Datenschutzverletzungen: Unzulässige Verarbeitung personenbezogener Daten, Verletzung von DSGVO oder EU AI Act
- Halluzinationen: Faktenwidrige Ausgaben generativer AI-Modelle (LLMs), die unkritisch übernommen werden
- Automatisierungsfallen: Übervertrauen in AI-Ergebnisse ohne menschliche Kontrolle ("Automation Bias")
- Anbieterabhängigkeit: Lock-in durch proprietäre AI-Plattformen ohne Exit-Option
Abgrenzung
AI Risk Management identifiziert und kontrolliert AI-spezifische Risiken auf Ebene einzelner Modelle und Systeme. AI Governance ist der übergeordnete Rahmen, der AI Risk Management als strukturierten Teilprozess umfasst. AI Compliance (EU AI Act) adressiert den spezifischen Teilbereich gesetzlich geforderter Risikomanagement-Pflichten für klassifizierte Hochrisiko-Systeme.
Praxisbeispiel
Ein Finanzdienstleister führt ein AI Risk Register, das jedes produktive Modell mit Risikoklasse, Owner, Kontrollmaßnahmen und Review-Zyklus dokumentiert.
Quartalsweise prüft ein bereichsübergreifendes Gremium das Register – Modelle mit erhöhtem Risiko werden abgeschaltet oder nachgebessert. Als ein Kredit-Scoring-Modell beginnt, auf neue Datenmuster anders zu reagieren (Drift), wird dies durch das Monitoring-System erkannt und das Modell innerhalb von 48 Stunden in die Review-Phase versetzt.