Menschliche Aufsicht bedeutet nach Art. 14 EU-VO 2024/1689, dass Hochrisiko-KI nicht unkontrolliert Entscheidungen produziert, sondern durch geeignete Personen verstanden, überwacht und notfalls korrigiert werden kann. Der Mensch muss also wirksam eingreifen können, nicht nur formal im Organigramm stehen.
In einfachen Worten
Ein Override-Knopf allein reicht nicht, wenn niemand die Ergebnisse fachlich einordnen kann. Menschliche Aufsicht setzt Rollen, Kompetenzen und klare Eskalationswege voraus. Dazu passen Hochrisiko-KI-System, Grundrechte-Folgenabschätzung und KI-Kompetenz.
Praxisbeispiel
Ein Recruiting-System liefert Rankings für Bewerber. Menschliche Aufsicht liegt nur dann vor, wenn Recruiter die Kriterien verstehen, Ergebnisse hinterfragen und fehlerhafte Vorschlaege aktiv verwerfen können.
Was Unternehmen jetzt tun sollten
Definieren Sie pro System, wer prüft, wer freigibt und wann ein menschlicher Eingriff Pflicht ist. Weiter helfen Schulungsnachweis, die FAQ und der Kurs für die praktische Rollenumsetzung.