Das Risikomanagement-System ist nach Art. 9 EU-VO 2024/1689 ein fortlaufender Prozess, mit dem Anbieter Risiken eines Hochrisiko-KI-Systems über den gesamten Lebenszyklus identifizieren, bewerten und mindern. Es endet also nicht mit dem Produktstart.
In einfachen Worten
Gemeint ist kein isoliertes Excel-Dokument, sondern ein belastbarer Regelkreis aus Risikoanalyse, Schutzmaßnahmen, Tests und Aktualisierung. Eng verbunden sind Hochrisiko-KI-System, Grundrechte-Folgenabschätzung und Post-Market-Monitoring.
Praxisbeispiel
Ein Recruiting-System muss nicht nur vor dem Go-live auf Bias und Fehlklassifikationen geprüft werden. Auch nach dem Einsatz müssen neue Risiken, Fehlfunktionen und Veränderungen beobachtet und adressiert werden.
Was Unternehmen jetzt tun sollten
Verknuepfen Sie KI-Risiken mit bestehenden Compliance-, Datenschutz- und Security-Prozessen. Vertiefend helfen Daten-Governance, die FAQ und der Kurs, wenn Verantwortliche einen praxistauglichen Prozess aufbauen sollen.