Post-Market-Monitoring bezeichnet die laufende Beobachtung eines Hochrisiko-KI-Systems nach dem Inverkehrbringen. Ziel ist es, neue Risiken, Fehlfunktionen und unerwartete Auswirkungen früh zu erkennen und nicht erst dann zu reagieren, wenn Beschwerden oder Aufsichtsverfahren beginnen.
In einfachen Worten
Compliance endet nicht am Tag des Rollouts. Anbieter müssen beobachten, wie sich ein System im echten Einsatz verhaelt, und Erkenntnisse in Verbesserungen ueberfuehren. Der Begriff hängt deshalb eng mit Risikomanagement-System, Technischer Dokumentation und Qualitaetsmanagementsystem zusammen.
Praxisbeispiel
Nach dem Live-Gang eines KI-Systems für Kreditbewertung zeigen sich vermehrt problematische Treffer in einer Kundengruppe. Diese Beobachtung muss erfasst, analysiert und in Korrekturmaßnahmen ueberfuehrt werden.
Was Unternehmen jetzt tun sollten
Legen Sie schon vor dem Go-live fest, welche Vorfälle, Fehler und Nutzerhinweise systematisch erfasst werden. Weiter helfen Marktaufsichtsbehörde, die FAQ und der Kurs, wenn Sie Monitoring nicht nur technisch, sondern organisatorisch aufsetzen müssen.