Art. 5 Abs. 1 lit. a und b EU AI Act
Manipulative KI-Techniken: Verboten nach EU Artificial Intelligence Act
Der EU AI Act verbietet KI-Systeme, die unterschwellige, täuschende oder manipulative Methoden einsetzen, um das Verhalten von Personen gegen ihre Interessen zu beeinflussen.
Was sind manipulative KI-Techniken?
Verboten sind KI-Systeme, die:
- Unterschwellige Techniken einsetzen (unterhalb der Bewusstseinsgrenze)
- Schwächen oder Verletzlichkeiten von Personen ausnutzen (z. B. Kinder, ältere Menschen)
- Zu erheblichem Schaden für Einzelpersonen oder Gruppen führen
Erlaubt vs. verboten
Erlaubt bleibt:
- Personalisierte Werbung auf Basis freiwillig angegebener Präferenzen
- Empfehlungssysteme, die transparent kommuniziert werden
- Nudging auf Basis etablierter Verhaltenspsychologie (wenn transparent)
Verboten sind Dark Patterns, die gezielt Schwächen ausnutzen und erheblichen Schaden verursachen.
Konkrete Beispiele
Verboten:
- Künstliche Dringlichkeit erzeugende KI, die auf Kaufzwang ausgerichtet ist
- Social-Media-Algorithmus, der gezielt Suchtverhalten bei Jugendlichen verstärkt
- Chatbot, der ältere Menschen durch emotionale Manipulation zu Käufen bewegt
Kostenloser Check
Wie hoch ist das KI-Risiko Ihres Unternehmens?
In 10 Minuten erfahren Sie, ob und wie der EU AI Act Ihr Unternehmen betrifft – kostenlos, ohne Registrierung, auf Deutsch.
KI-Risiko kostenlos prüfen →Kostenlos · Kein Account nötig · Auf Deutsch · DSGVO-konform