Anforderungen für Hochrisiko-KI-Systeme nach EU AI Act

Anbieter müssen ein kontinuierliches Risikomanagementsystem einrichten, das den gesamten Lebenszyklus begleitet:

• Risiken identifizieren und analysieren
• Risiken für Gesundheit, Sicherheit und Grundrechte bewerten
• Risikominderungsmaßnahmen umsetzen
• Regelmäßig überprüfen und aktualisieren

Praxis-Tipp: Orientieren Sie sich an ISO 31000 (Risikomanagement) oder ISO/IEC 42001 (KI-Managementsysteme).

Verwendete Datensätze müssen:

• Relevant für das Systemziel sein
• Ausreichend repräsentativ sein (keine systematische Benachteiligung)
• Möglichst fehlerfrei und vollständig sein
• DSGVO/DSG-konform verarbeitet werden

Datenherkunft, Vorverarbeitung und verwendete Datensätze müssen dokumentiert werden.

Vor der Markteinführung ist eine umfassende technische Dokumentation erforderlich (Anhang IV):

• Allgemeine Systembeschreibung (Zweck, Version, Hersteller)
• Beschreibung der Komponenten und Entwicklungsschritte
• Trainingsdaten und -prozesse
• Validierungs- und Testverfahren
• Leistungsmetriken und Risikomaßnahmen

Hochrisiko-KI-Systeme müssen automatisch Protokolle erstellen, die es ermöglichen:

• Den Betrieb des Systems nachzuvollziehen
• Ereignisse zu identifizieren, die Risiken darstellen könnten
• Behördliche Kontrollen zu ermöglichen

Protokolle müssen mindestens 6 Monate aufbewahrt werden (für Strafverfolgung: 6 Monate bis 3 Jahre).

Betreiber müssen ausreichende Informationen erhalten, um:

• Die Systemzwecke und Fähigkeiten zu verstehen
• Die menschliche Aufsicht zu gewährleisten
• Daten korrekt zu interpretieren

Diese Informationen sind in einer Gebrauchsanweisung bereitzustellen.

Hochrisiko-KI-Systeme müssen so gestaltet sein, dass natürliche Personen:

• Den Betrieb wirksam überwachen können
• Eingreifen und das System unterbrechen können
• Die Systemausgaben und Entscheidungen verstehen können

Vor der Markteinführung ist eine Konformitätsbewertung durchzuführen (Art. 43). Bei Bestehen:

• EU-Konformitätserklärung ausstellen
• CE-Kennzeichnung anbringen
• System in der EU-KI-Datenbank registrieren (Art. 49)