Menschliche Aufsicht bei Hochrisiko-KI: Art. 14 EU AI Act
Hochrisiko-KI-Systeme müssen so gestaltet sein, dass natürliche Personen wirksam Aufsicht ausüben, eingreifen und das System nötigenfalls stoppen können.
Was muss sichergestellt sein?
Natürliche Personen müssen in der Lage sein:
- Den Betrieb des Systems zu verstehen und zu überwachen
- Systemausgaben zu interpretieren und zu hinterfragen
- Das System bei Bedarf zu unterbrechen oder außer Betrieb zu setzen
- Entscheidungen nicht blindlings zu übernehmen
Human-in-the-Loop vs. Human-on-the-Loop
Je nach Risikostufe kann entweder Human-in-the-Loop (direkte menschliche Beteiligung bei jeder Entscheidung) oder Human-on-the-Loop (Überwachung mit Eingriffsmöglichkeit) gefordert sein.
Der EU AI Act lässt beide Modelle zu, sofern wirksame Aufsicht gewährleistet ist.
Schulungspflichten für Betreiber
Betreiber müssen sicherstellen, dass die für die menschliche Aufsicht zuständigen Personen ausreichend geschult sind und die Systemfunktionen und -grenzen kennen.
Wie hoch ist das KI-Risiko Ihres Unternehmens?
In 10 Minuten erfahren Sie, ob und wie der EU AI Act Ihr Unternehmen betrifft – kostenlos, ohne Registrierung, auf Deutsch.
KI-Risiko kostenlos prüfen →Kostenlos · Kein Account nötig · Auf Deutsch · DSGVO-konform