EU AI Act Glossar
Alle wichtigen Begriffe des EU Artificial Intelligence Act einfach erklärt – mit Artikelreferenzen und praktischer Bedeutung.
Anbieter (Provider)
Unternehmen oder Person, die ein KI-System entwickelt und auf den Markt bringt.
AI Office (EU-KI-Amt)
Die zentrale EU-Behörde für die Regulierung von GPAI-Modellen und die Koordinierung der nationalen KI-Aufsicht.
Anhang III (EU AI Act)
Liste der 8 Hochrisikobereiche, in denen KI-Systeme als hochriskant eingestuft werden.
Anhang I
Liste der EU-Harmonisierungsvorschriften für Produkte mit KI-Komponenten.
Audit-Trail
Lückenlose Protokollierung zur Rückverfolgbarkeit.
Betreiber (Deployer)
Unternehmen oder Person, die ein KI-System im eigenen Betrieb oder für Dritte verwendet.
Benannte Stelle (Notified Body)
Akkreditierte Prüforganisation, die Konformitätsbewertungen für bestimmte Hochrisiko-KI-Systeme durchführt.
Bias (KI-Verzerrung)
Systematische Ungleichbehandlung bestimmter Gruppen durch KI-Systeme aufgrund verzerrter Trainingsdaten oder Algorithmen.
Bevollmächtigter
EU-Vertreter eines Anbieters aus einem Drittland.
Biometrische Daten
Personenbezogene Daten zu körperlichen oder verhaltensbezogenen Merkmalen.
Biometrisches Kategorisierungssystem
KI zur Einordnung von Personen anhand biometrischer Daten.
Bußgeld-Staffelung
Die abgestufte Höhe der Sanktionen je nach Verstoß.
CE-Kennzeichnung (für KI)
Pflichtzeichen für Hochrisiko-KI-Systeme nach bestandener Konformitätsbewertung.
Chatbot (nach EU AI Act)
KI-gestützte Systeme zur Mensch-Maschine-Kommunikation mit Transparenzpflicht.
Code of Practice (GPAI)
Freiwilliger Verhaltenskodex für GPAI-Modell-Anbieter, entwickelt unter Mitwirkung der Industrie.
CE-Konformität
Die durch CE-Kennzeichnung dokumentierte Konformität.
Deepfake
KI-generierte synthetische Medien (Bilder, Videos, Audio), die Personen oder Situationen täuschend echt darstellen.
Daten-Governance (EU AI Act)
Pflicht zur qualitätsgesicherten, repräsentativen und DSG-/DSGVO-konformen Verwaltung von Trainingsdaten bei Hochrisiko-KI.
Durchführungsrechtsakt
Konkretisierende Rechtsakte der EU-Kommission zum EU AI Act.
Drittland-Anbieter
Anbieter außerhalb der EU mit EU-Marktbezug.
Digital Omnibus
EU-Gesetzgebungspaket zur Anpassung digitaler Regeln.
EU-KI-Datenbank
Öffentliches Register, in dem Hochrisiko-KI-Systeme vor der Markteinführung registriert werden müssen.
EU-Konformitätserklärung
Formelles Dokument, mit dem Anbieter bestätigen, dass ihr Hochrisiko-KI-System alle EU AI Act-Anforderungen erfüllt.
Ernsthafter Vorfall
Ereignis, das bei Hochrisiko-KI-Systemen zu Tod, Personenschaden oder erheblichem Sachschaden führt und gemeldet werden muss.
EU AI Act
Die EU-Verordnung 2024/1689 zur Regulierung künstlicher Intelligenz.
EU-Konformitätserklärung
Förmliche Erklärung des Anbieters über die Einhaltung der Anforderungen.
EU-Grundrechtecharta
Grundrechtsmaßstab für die Bewertung von KI-Systemen.
Emotionserkennungssystem
KI zur Erkennung von Emotionen aus biometrischen Daten.
Echtzeit-Fernidentifizierung
Biometrische Identifizierung in Echtzeit aus der Ferne.
Erklärbarkeit (Explainability)
Die Nachvollziehbarkeit von KI-Entscheidungen.
Extraterritorialität
Die Geltung des EU AI Act über die EU-Grenzen hinaus.
GPAI (General Purpose AI)
Allzweck-KI-Modelle, die für eine breite Palette von Aufgaben eingesetzt werden können, z.B. ChatGPT oder Claude.
Grundrechte-Folgenabschätzung (FRIA)
Pflicht für öffentliche Stellen, vor dem Einsatz bestimmter Hochrisiko-KI eine Grundrechtsprüfung durchzuführen.
Gebrauchsanweisung (für KI)
Pflichtdokument für Hochrisiko-KI-Systeme, das Betreiber über den sicheren Einsatz informiert.
Hochrisiko-KI-System
KI-Systeme mit erheblichem Risiko für Gesundheit, Sicherheit oder Grundrechte – unterliegen strengsten Anforderungen.
Händler
Unternehmen, das Hochrisiko-KI-Systeme in der EU vertreibt, ohne sie zu modifizieren.
Harmonisierte Norm
Technische Norm, deren Einhaltung Konformität vermuten lässt.
Human-in-the-Loop
Modell der menschlichen Beteiligung an KI-Entscheidungen.
Konformitätsbewertung
Verfahren, mit dem Anbieter nachweisen, dass ihr Hochrisiko-KI-System alle Anforderungen des EU AI Act erfüllt.
KI-System (Definition EU AI Act)
Maschinenbasiertes System, das aus einer Eingabe Ausgaben wie Vorhersagen, Empfehlungen oder Entscheidungen erzeugt.
KI-Kompetenz (AI Literacy)
Pflicht nach Art. 4 EU AI Act zur Sicherstellung ausreichender KI-Kenntnisse bei Mitarbeitenden.
KI-System
Ein maschinenbasiertes System, das aus Eingaben Ausgaben wie Vorhersagen oder Entscheidungen ableitet.
KI-Büro (AI Office)
Zentrale EU-Behörde zur Aufsicht über GPAI und Koordination.
KI-Ausschuss (AI Board)
Gremium der Mitgliedstaaten zur einheitlichen Anwendung des Gesetzes.
Konformitätsvermutung
Vermutete Konformität bei Einhaltung harmonisierter Normen.
KI-Wertschöpfungskette
Die Kette von Akteuren von Daten bis Anwendung.
KI-Reallabor (Sandbox)
Kontrollierte Umgebung zur Erprobung von KI unter Aufsicht.
KI-Kompetenz (AI Literacy)
Erforderliches Wissen der mit KI arbeitenden Personen.
Menschliche Aufsicht
Pflicht, bei Hochrisiko-KI-Systemen eine wirksame menschliche Überwachung und Eingriffsmöglichkeit sicherzustellen.
Marktaufsichtsbehörde
Nationale Behörde, die die Einhaltung des EU AI Act überwacht und Sanktionen verhängen kann.
Marktüberwachung
Behördliche Überwachung von KI-Systemen am Markt.
Modell-Drift
Nachlassende Modellgüte durch veränderte Realbedingungen.
Nachgelagerte biometrische Identifizierung
KI-gestützte Identifizierung von Personen auf gespeichertem Bild- oder Audiomaterial – Hochrisiko, aber nicht verboten.
Notifizierende Behörde
Behörde, die benannte Stellen benennt und überwacht.
Nachträgliche Fernidentifizierung
Biometrische Identifizierung aus aufgezeichnetem Material.
Technische Dokumentation
Pflichtdokumentationspaket für Hochrisiko-KI-Systeme gemäß Anhang IV des EU AI Act.
Transparenzpflicht
Pflicht, Nutzer darüber zu informieren, dass sie mit einem KI-System interagieren oder KI-generierte Inhalte konsumieren.
Tests unter Realbedingungen
Erprobung von KI außerhalb von Laborbedingungen.
Trainingsdaten
Daten, mit denen ein KI-Modell trainiert wird.
Testdaten
Daten zur unabhängigen Bewertung eines Modells.
Verhaltenskodex (Code of Conduct)
Freiwillige Selbstverpflichtung für nicht-hochriskante KI.
Vorgesehener Verwendungszweck
Der vom Anbieter bestimmte Zweck eines KI-Systems.
Vernünftigerweise vorhersehbarer Fehlgebrauch
Eine Nutzung außerhalb des Zwecks, die der Anbieter einkalkulieren muss.
Validierungsdaten
Daten zur Abstimmung der Modellparameter.