Emotionserkennung am Arbeitsplatz: Verboten nach EU AI Act
Seit dem 2. Februar 2025 ist der Einsatz von KI zur Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen in der EU verboten. Das betrifft zahlreiche HR-Tech, EdTech und Videokonferenz-Anbieter.
Was ist verboten?
Verboten sind KI-Systeme, die Emotionen oder Gefühlszustände von Personen erkennen, ableiten oder analysieren:
- Am Arbeitsplatz – in beruflichen Kontexten aller Art
- In Bildungseinrichtungen – Schulen, Universitäten und andere Lernumgebungen
Die Technologie selbst ist nicht verboten – der spezifische Einsatz in diesen Kontexten ist es.
Welche Produkte sind betroffen?
- Videokonferenz-Tools mit Mimik- und Emotionsanalyse
- Proctoring-Software für Online-Prüfungen mit Emotionsanalyse
- HR-Software mit Stimmungsanalyse bei Videointerviews
- Wearables, die Emotionszustände von Mitarbeitenden erfassen
- KI-Chatbots mit Emotionserkennungsfunktion in Lernumgebungen
Ausnahmen
Das Verbot gilt nicht für den Einsatz aus medizinischen Gründen (unter ärztlicher Aufsicht) oder Sicherheitsgründen (z. B. Müdigkeitserkennung bei Fahrern). Diese Ausnahmen sind eng auszulegen.
Handlungsempfehlung
- Prüfen Sie, ob eingesetzte Tools Emotionserkennungsfunktionen haben
- Deaktivieren Sie diese oder wechseln Sie das Tool
- Informieren Sie Mitarbeitende über eingesetzte KI-Systeme
- Nutzen Sie den kostenlosen AI Risk Check für eine Prüfung
Wie hoch ist das KI-Risiko Ihres Unternehmens?
In 10 Minuten erfahren Sie, ob und wie der EU AI Act Ihr Unternehmen betrifft – kostenlos, ohne Registrierung, auf Deutsch.
KI-Risiko kostenlos prüfen →Kostenlos · Kein Account nötig · Auf Deutsch · DSGVO-konform