Transparenzpflichten nach Art. 50 KI-VO für KI-Systeme

Ab dem 2. August 2026 gelten Transparenz- und Kennzeichnungspflichten für die Anbieter und Betreiber bestimmter KI-Systeme nach Art. 50 KI-Verordnung (KI-VO bzw. „AI Act“). Zwar ist nicht jeder KI-generierte Inhalt künftig kennzeichnungspflichtig. Dennoch ergeben sich für zahlreiche Unternehmen, die KI-Anwendungen zur Generierung von Inhalten (z.B. im Marketing) oder zur direkten Interaktion mit Menschen (z.B. Chatbot im Kundenservice) einsetzen, Verpflichtungen zur Kennzeichnung spezifischer KI-Systeme und -Inhalte.

1. Zweck und Reichweite der Transparenzpflichten nach Art. 50 KI-VO

Chatbots, die Ihre Kundenanfragen beantworten. Videos, auf denen eine bekannte Stimme eine Botschaft verkündet, die sie nie gesagt hat oder Bilder, die täuschend echt wirken und dennoch vollständig maschinell erzeugt wurden. Der Einsatz bestimmter KI-Systeme geht dabei mit Risiken wie Täuschung, Identitätsbetrug oder schlicht der mangelnden Unterscheidbarkeit von realen und künstlich erzeugten Inhalten und der damit verbundenen Verwechslungsgefahr für Menschen einher.

Art. 50 KI-VO adressiert diese Gefahren, indem er für bestimmte KI-Systeme Transparenz- und Kennzeichnungspflichten vorsieht, unabhängig von einer Risikoklassifizierung im Übrigen. Hiervon erfasste KI-Systeme sind grundsätzlich

• KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind (z.B. Chatbots, Social Bots), Art. 50 Abs. 1 KI-VO,
• KI-Systeme (einschließlich KI-Systeme mit allgemeinem Verwendungszweck), die synthetische Inhalte (Audio, Bild, Video, Text) erzeugen, Art. 50 Abs. 2 KI-VO,
• KI-Systeme mit dem Zweck der Feststellung oder Ableitung von Emotionen (Emotionserkennungssysteme) oder der Kategorisierung von Menschen anhand biometrischer Merkmale (System zur biometrischen Kategorisierung), Art. 50 Abs. 3 KI-VO, und
• KI-Systeme, die Bild-, Ton- oder Videoinhalte erzeugen oder manipulieren, die ein Deepfake sind, Art. 50 Abs. 4 KI-VO.

2. Adressaten: Anbieter und Betreiber von KI-Systemen

Die Transparenz- und Kennzeichnungspflichten des Art. 50 KI-VO gelten sowohl für Anbieter (Art. 50 Abs. 1, 2 KI-VO) als auch Betreiber (Art. 50 Abs. 3, 4 KI-VO) bestimmter KI-Systeme. Anbieter sind z.B. Unternehmen, die ein KI-System entwickeln (lassen) und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen, während z.B. solche Unternehmen als Betreiber zu qualifizieren sind, die ein KI-System in eigener Verantwortung zu betrieblichen Zwecken verwenden, indem sie dessen Anwendung organisieren und systematisch steuern.

Regelmäßig setzen Unternehmen kommerziell erworbene oder lizenzierte KI-Systeme ein, die sie nicht selbst entwickelt haben. In diesen Fällen sind sie zumeist als Betreiber zu qualifizieren. Allerdings ist die Rolle des Unternehmens als Akteur nach der KI-VO stets im Einzelfall zu prüfen, schon die umfangreiche (Vor-)Konfiguration oder Fine-Tuning eines generativen KI-Modells kann dazu führen, dass ein Unternehmen hinsichtlich des darauf aufbauenden KI-Systems als Anbieter nach der KI-VO zu qualifizieren ist.

3. Information bei direkter Interaktion mit KI-Systemen (Art. 50 Abs. 1 KI-VO)

Art. 50 Abs. 1 KI-VO verpflichtet Anbieter solcher KI-Systeme, die zur direkten Interaktion mit Menschen bestimmt sind. Direkte Interaktion bedeutet die unmittelbare Einwirkung auf oder Kommunikation des KI-Systems mit einem Menschen. Sofern sie KI-Systeme darstellen, zählen hierzu etwa Chatbots, primär in sozialen Netzwerken eingesetzte Social Bots oder Sprachassistenten bzw. Sprachsteuerungen. Nicht erfasst ist die reine Machine-to-Machine-Interaktion (M2M), an der kein Mensch beteiligt ist.

Liegt ein Fall der direkten Interaktion vor, hat der Anbieter das KI-System so zu entwickeln, dass die betreffenden Personen darüber informiert werden können, dass sie mit einem KI-System kommunizieren oder interagieren. Ausnahmen sieht Art. 50 Abs. 1 KI-VO dann vor, wenn der Einsatz eines KI-Systems aus der Sicht eines Durchschnittsempfängers offensichtlich ist oder im Bereich der Starverfolgung, wenn das System nicht gerade der Öffentlichkeit zur Anzeige einer Straftat zur Verfügung steht.

4. Kennzeichnung synthetisch erzeugter KI-Inhalte (Art. 50 Abs. 2 KI-VO)

Auch Art. 50 Abs. 2 KI-VO adressiert Anbieter von KI-Systemen oder KI-Systemen mit allgemeinem Verwendungszweck. Erzeugt ein KI-System synthetische Inhalte, hat der Anbieter sicherzustellen, dass der Output des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar ist. Die technischen Lösungen müssen dabei u.a. wirksam, interoperabel, belastbar und zuverlässig sein.

Zu den synthetischen Inhalten können etwa Text-, Bild-, Audio- oder Videoinhalte zählen. Dies umfasst insbesondere generative KI-Systeme, kann aber auch Chatbots oder KI-Suchmaschinen miteinschließen. Ausnahmen von der Kennzeichnungspflicht sieht die KI-VO u.a. dann vor, soweit die KI-Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Input-Daten oder deren Semantik nicht wesentlich verändern. Dies betrifft z.B. KI-gestützte Bildbearbeitungs- oder Textüberprüfungsprogramme.

5. Transparenz bei Emotionserkennung und biometrischer Kategorisierung (Art. 50 Abs. 3 KI-VO)

Nach Art. 50 Abs. 3 KI-VO haben Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung die hiervon betroffenen Personen über den Betrieb dieses Systems zu informieren. Eine Ausnahme besteht dann, wenn diese KI-Systeme gesetzlich zur Strafverfolgung zugelassen sind.

6. Offenlegung von Deepfakes (Art. 50 Abs. 4 KI-VO)

Insbesondere für den Bereich des KI-Einsatzes in Marketing und Werbung wird künftig die Verpflichtung für Betreiber zur Offenlegung künstlich erzeugter oder manipulierter Deepfakes nach Art. 50 Abs. 4 KI-VO relevant. Ein Deepfake ist ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der realen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person den Eindruck eines echten oder authentischen Inhalts vermittelt. Die Abgrenzung zu sonstigen KI-generierten Inhalten ist oftmals komplex.

Für das Vorliegen der „Ähnlichkeit“ ist nach einem weiten Verständnis ausreichend, dass durch den KI-generierten Inhalt eine abstrakte (fotorealistische) Ähnlichkeit zu fiktiven Menschen, Orten oder Gegenständen vorliegt, unabhängig davon, ob diese tatsächlich existieren oder dem adressierten Verkehrskreis des Inhalts bekannt sind. Maßgeblich ist, ob der Inhalt als echt oder wahrheitsgemäß wahrgenommen werden kann. So können z.B. sowohl KI-generierte Darstellungen von promi-nenten Persönlichkeiten als auch audiovisuell realistische, KI-generierte Personen oder echte Personen in fiktiven, KI-generierten aber authentisch wirkenden Umgebungen einen Deepfake darstellen. Dies kann auch auf KI-generierte Produktprototypen zutreffen, sofern sie einen realistischen Gehalt vermitteln.

Offensichtlich unrealistische Darstellungen fallen nicht unter den Begriff „Deepfake“, etwa wenn sie gegen Naturgesetze oder physikalisch-biologische Grundsätze verstoßen. Dies umfasst z.B. miteinander sprechende Gegenstände in einem Werbevideo. Ebenfalls nicht erfasst sind übliche KI-gestützte Standardbearbeitungen von Inhalten (z.B. Änderungen bei Licht, Farbe, Kontrast, Audioparametern oder kleineren Details im Hintergrund), sofern diese für die Einschätzung der Echtheit eines Inhalts nur von geringer Bedeutung sind.

Die Verpflichtung des Art. 50 Abs. 4 umfasst die Offenlegung, dass die Inhalte des Deepfakes KI-generiert sind. Handelt es sich bei dem Inhalt um Text, ist dieser nur als KI-generiert zu kennzeichnen, wenn dieser veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Bei klar erkennbar künstlerischen, satirischen oder fiktionalen Werken genügt eine Kennzeichnung, die die Wirkung des Werks nicht stört. Ausnahmen gelten zudem bei gesetzlich zugelassener Nutzung zur Strafverfolgung sowie dann, wenn die KI-Inhalte einer echten redaktionellen Kontrolle unterliegen und eine verantwortliche natürliche oder juristische Person die Veröffentlichung verantwortet.

7. Praktische Umsetzung der Transparenz- und Kennzeichnungspflichten

Der maßgebliche Zeitpunkt für die Umsetzung der Kennzeichnungspflicht ist nach Art. 50 Abs. 5 KI-VO die erste Interaktion mit dem KI-System: Spätestens wenn das KI-System auf den Menschen trifft, muss die Transparenz- bzw. Kennzeichnungspflicht umgesetzt sein. Die Information muss barrierefrei und in klarer und eindeutiger Weise bereitgestellt werden und darf nicht etwa unauffällig, kaum lesbar oder an einer entfernten Stelle der Website stehen.

Denkbare Umsetzungsmöglichkeiten (je nach Besonderheiten des eingesetzten KI-Systems) sind etwa:

• Textuell hervorgehobene Hinweise oder Banner bei der ersten Interaktion mit dem KI-System oder dauerhaft während der Anwendung, etwa in unmittelbarer räumlicher Nähe zum Eingabe- und Ausgabefeld, z.B. „Sie interagieren mit einem KI-System“).
• Visuelle Hinweise oder Symbole: Anbringung dauerhaft sichtbarer Icons oder KI-Markierungen oder Wasserzeichen.
• In sprachbasierten Einsatzkontexten (z.B. telefonischer Kundenservice): Explizit gesprochener Hinweis zu Beginn des Gesprächs (z.B. „Sie sprechen mit einem KI-Assistenten“).
• Multimodale Kombinationen aus textuellen, visuellen und auditiven Hinweisen.

Nicht ausreichend für die Erfüllung der Kennzeichnungspflicht sind Hinweise, die sich ausschließlich in AGB, URLs oder sonstigen Dokumentationen finden. Ebenso nicht ausreichend sind für Nutzerinnen und Nutzer des KI-Systems zum Zeitpunkt der Interaktion mit dem System nicht wahrnehmbare maschinenlesbare Informationen wie z.B. innerhalb von Metadaten. Auch der bloße Hinweis auf eine zugrundeliegende Technologie (z.B. „Dieses System verwendet ein großes Sprachmodell“) gewährleistet keine hinreichende Transparenz.

8. Sanktionsrisiken bei Verstößen

Ein Verstoß gegen die Transparenz- und Kennzeichnungspflichten nach Art. 50 KI-VO kann empfindliche Sanktionen nach der KI-VO nach sich ziehen: Geldbußen von bis zu 15 Mio. Euro oder – im Falle von Unternehmen – von bis zu 3 Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres drohen. Nach Auffassung der Wettbewerbszentrale können Verstöße gegen die KI-VO auch als unlauterer Wettbewerb nach dem UWG einzuordnen sein, sodass Mitbewerber und Verbände Unterlassungsansprüche geltend machen können.

9. Unterstützung bei der Umsetzung individueller Pflichten nach Art. 50 KI-VO

Ob Unternehmen künftig ihre KI-generierten Inhalte nach Art. 50 KI-VO kennzeichnen müssen und – falls ja – welche Anforderungen sie dabei beachten müssen, hängt somit zentral davon ab, welche Rolle sie nach der KI-VO im konkreten Fall einnehmen und welche KI-Systeme sie zu welchem Zweck einsetzen. Zur Auslegung und Anwendung der Verpflichtungen hat die EU-Kommission bereits Leitlinien zu Transparenzverpflichtungen für Anbieter und Betreiber von KI-Systemen sowie den Entwurf für einen Verhaltenskodex für die Transparenz KI-generierter In-halte nach Art. 50 KI-VO veröffentlicht. Wenngleich beide Dokumente eine gute Orientierungs-hilfe darstellen, entbindet dies Unternehmen nicht von der Überprüfung ihrer konkreten Anforderungen im Einzelfall. Wir unterstützen umfassend bei der rechtssicheren Gestaltung und Begleitung von KI-Projekten und der Einhaltung nationaler und europäischer Regulierungsanforderungen im KI-Recht.