Verbotene biometrische Kategorisierung: EU Artificial Intelligence Act Art. 5
KI-Systeme, die biometrische Daten nutzen, um Personen nach sensiblen Merkmalen wie Rasse, Religion oder sexueller Orientierung zu kategorisieren, sind nach dem EU AI Act verboten – sowohl für öffentliche als auch private Akteure.
Welche Kategorisierungen sind verboten?
Verboten sind KI-Systeme, die biometrische Daten nutzen, um Personen nach folgenden Merkmalen zu kategorisieren:
- Rasse oder ethnische Herkunft
- Politische Meinungen
- Gewerkschaftszugehörigkeit
- Religiöse oder weltanschauliche Überzeugungen
- Sexualleben oder sexuelle Orientierung
Im Gegensatz zum Social-Scoring-Verbot gilt dieses Verbot auch für private Unternehmen.
Was ist noch erlaubt?
Nicht verboten ist die biometrische Kategorisierung nach nicht-sensiblen Merkmalen (Alter, Geschlecht) unter Hochrisiko-Auflagen. Gesichtserkennung für Zutrittskontrolle ohne sensible Kategorisierung ist ebenfalls erlaubt.
Praxisbeispiele
Verboten:
- KI, die aus Gesichtsfotos ethnische Zugehörigkeit ableitet
- Rekrutierungs-KI, die religiöse Zugehörigkeit aus Profilfotos erkennt
Erlaubt (mit Auflagen):
- Gesichtserkennung zur Zutrittskontrolle ohne sensible Kategorisierung
- Altersverifikation für altersbeschränkte Inhalte
Wie hoch ist das KI-Risiko Ihres Unternehmens?
In 10 Minuten erfahren Sie, ob und wie der EU AI Act Ihr Unternehmen betrifft – kostenlos, ohne Registrierung, auf Deutsch.
KI-Risiko kostenlos prüfen →Kostenlos · Kein Account nötig · Auf Deutsch · DSGVO-konform