Rechtlicher Rahmen
Nach der KI-VO wird zwischen den folgenden wesentlichen Fallgruppen unterschieden:
KI-Systeme zur direkten Interaktion mit natürlichen Personen
Anbieter müssen sicherstellen, dass Personen darüber informiert werden, wenn sie mit einem KI-System interagieren, sofern dies nicht bereits offensichtlich ist.
Dies betrifft insbesondere Chatbots, virtuelle Assistenten oder vergleichbare dialogbasierte Systeme (Art. 50 Abs. 1 KI‑VO).
Systeme zur Erzeugung synthetischer Inhalte
Anbieter von KI-Systemen, die Texte, Bilder, Audio- oder Videoinhalte erzeugen oder manipulieren, müssen sicherstellen, dass entsprechende Inhalte in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert gekennzeichnet werden (Art. 50 Abs. 2 KI‑VO).
Emotionserkennung und biometrische Kategorisierung
Betreiber solcher Systeme müssen betroffene Personen über den Einsatz des Systems informieren (Art. 50 Abs. 3 KI‑VO).
Deepfakes
Betreiber von KI-Systemen, die Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren, sodass sogenannte Deepfakes entstehen, müssen offenlegen, dass die betreffenden Inhalte künstlich erzeugt oder manipuliert wurden (Art. 50 Abs. 4 KI‑VO).
Angelegenheiten von öffentlichem Interesse
Betreiber eines KI‑Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde (Art. 50 Abs. 4 KI-VO).
Leitlinien der Europäischen Kommission vom 20. Juli 2026
Die Europäische Kommission hat am 20. Juli 2026 die endgültigen „Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of the AI Act“ veröffentlicht.
Die Leitlinien sollen Unternehmen, Behörden sowie sonstigen Marktteilnehmern praktische Hilfestellung bei der Anwendung der Transparenzpflichten gemäß Art. 50 der KI-Verordnung geben.
Die Leitlinien sind unter dem folgenden Link zu finden: https://digital-strategy.ec.europa.eu/en/library/guidelines-transparency-obligations-providers-and-deployers-ai-systems
Zu berücksichtigen ist, dass die Leitlinien zwar rechtlich nicht bindend sind, die Kommission jedoch ausdrücklich darauf hinweist, dass sie eine einheitliche Anwendung der KI‑VO unterstützen sollen. Aufsichtsbehörden werden sich voraussichtlich eng an diesen Leitlinien orientieren.
Sanktionen und Haftungsrisiken
Verstöße gegen Art. 50 KI‑VO können mit erheblichen Geldbußen sanktioniert werden.
Nach Art. 99 KI‑VO können Verstöße gegen Transparenzpflichten mit Geldbußen von bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes des Unternehmens geahndet werden, je nachdem, welcher Betrag höher ist.
Das nationale „Gesetz zur Durchführung der Verordnung über künstliche Intelligenz“ wurde allerdings bisher noch nicht erlassen; derzeit liegt nur der Gesetzentwurf vor.
Neben behördlichen Sanktionen bestehen weitere Risiken, wie etwa Datenschutzverstöße, Schadensersatzforderungen und Reputationsschäden.
Handlungsempfehlungen
Unternehmen sollten im ersten Schritt folgende Maßnahmen ergreifen:
- ein Verzeichnis der eingesetzten KI-Systeme erstellen
- prüfen, welche Systeme unter Art. 50 KI‑VO fallen
- Verantwortlichkeiten zwischen IT-, Compliance-, Datenschutz- und ggf. weiteren Fachbereichen festlegen
- bestehende Kennzeichnungs- und Hinweismechanismen überprüfen
- Richtlinien zum Einsatz von KI aktualisieren
Im Anschluss empfehlen sich folgende Maßnahmen:
- Integration der Transparenzpflichten in bestehende Compliance-Management-Systeme
- Durchführung regelmäßiger Audits
- Schulungen für Beschäftigte
- Aufbau geeigneter Dokumentations- und Nachweisstrukturen
Rechtsgrundlagen
- Art. 50 der Verordnung (EU) 2024/1689 - „Verordnung des europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz und zur Änderung von bestimmten Rechtsakten“ - „KI-VO“
- Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of the AI Act