16. November 2026
Seit dem 2. August 2026 gelten die Transparenzpflichten des Art. 50 KI-Verordnung (KI-VO). Sie sollen insbesondere dafür sorgen, dass für Betroffene erkennbar ist, wann sie mit einem KI-System interagieren oder mit KI erzeugte bzw. manipulierte Inhalte vor sich haben. Dazu sieht Art. 50 KI-VO unterschiedliche Informations- und Kennzeichnungspflichten vor – unter anderem für Chatbots, KI-Agenten, Deepfakes und bestimmte KI-generierte Texte. Als Auslegungshilfe zur KI-Verordnung hat die EU-Kommission Leitlinien (nachstehend „Kommissionsleitlinien“) und ein FAQ veröffentlicht.
Weiterlesen →
Die Transparenzpflichten im Überblick
Art. 50 KI-VO unterscheidet danach, wer für die jeweilige Transparenzpflicht verantwortlich ist. Die Absätze 1 und 2 richten sich an Anbieter – also vereinfacht gesagt an diejenigen, die ein KI-System entwickeln bzw. entwickeln lassen und unter eigenem Namen oder eigener Marke in Verkehr bringen oder in Betrieb nehmen.
Die Absätze 3 und 4 richten sich dagegen an Betreiber – also diejenigen, die ein KI-System in eigener Verantwortung verwenden, beispielsweise ein Unternehmen, das ein KI-System zur Erstellung und Veröffentlichung eigener Inhalte einsetzt; ausgenommen ist die Verwendung im Rahmen einer persönlichen und nicht beruflichen Tätigkeit.
Art. 50 Abs. 1 KI-VO – Interaktion mit KI: Diese Pflicht gilt für Anbieter von KI-Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, etwa Chatbots. Sie müssen ihre Systeme grundsätzlich so konzipieren und entwickeln, dass die betroffenen Personen darüber informiert werden, dass sie mit einem KI-System interagieren. Eine Information ist nicht erforderlich, wenn dies offensichtlich ist aus Sicht einer durchschnittlichen Person, die einigermaßen gut informiert, verständig und aufmerksam ist.
Art. 50 Abs. 2 KI-VO – KI-generierte Inhalte: Auch diese Pflicht trifft die Anbieter. Erzeugt ein KI-System „synthetische“ Audio-, Bild-, Video- oder Textinhalte erzeugen, muss der Anbieter sicherstellen, dass die Ausgaben des KI‑Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Ausnahmen sind unter anderem: Die Pflicht gilt nicht, soweit das KI-System lediglich eine unterstützende Funktion für die Standardbearbeitung ausführt oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändert.
Art. 50 Abs. 3 KI-VO – Emotionserkennungssysteme oder Systeme zu biometrischen Kategorisierung: Betreiber solcher Systeme müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems und verarbeitete personenbezogene Daten informieren.
Art. 50 Abs. 4 KI-VO – Deepfakes und bestimmte KI-generierte Texte: Diese Pflicht trifft Betreiber eines KI-Systems. Wer Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, muss grundsätzlich offenlegen, dass die betreffenden Inhalte künstlich erzeugt oder manipuliert wurden. Eine entsprechende Offenlegungspflicht kann auch für KI-generierte oder mit KI manipulierte Texte bestehen, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Einzelheiten zur Transparenzpflicht bei Deepfakes und KI-generierten Texten werden im Folgenden erörtert.
Wann liegt ein Deepfake vor
Als Deepfake definiert Art. 3 Nr. 60 KI-VO durch KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würden. Diese Frage ist den Kommissionsleitlinien zufolge einer Gesamtbewertung zu unterziehen; dabei sind der Grad der Ähnlichkeit, die potenzielle inhaltliche Aussage, die beabsichtigten und vorhersehbaren Einsatzkontexte, das Umfeld der Darstellung sowie die beabsichtigte und vernünftigerweise vorhersehbare Zusammensetzung des Publikums und dessen Erwartungen zu berücksichtigen.
Dazu wird in den Kommissionsleitlinien unter anderem wie folgt ausgeführt (Übersetzung aus dem Englischen):
„In ähnlicher Weise kann die KI-gestützte Manipulation unwesentlicher inhaltlicher oder technischer Aspekte bereits vorhandener Inhalte für die Beurteilung der Authentizität oder Wahrhaftigkeit dieser Inhalte durch eine Person von geringer Bedeutung sein, ohne dass der resultierende Inhalt zu einem Deepfake wird. Hierzu können beispielsweise die Bearbeitung von Hintergrunddetails (z. B. das Entfernen von Passanten), Anpassungen der Beleuchtung, die Änderung von Audioparametern, Farbkorrekturen, Rauschunterdrückung oder -entfernung, die Verbesserung der Barrierefreiheit oder Dateikomprimierung sowie kosmetische Anpassungen und Optimierungen gehören. Ob eine Manipulation in diese Kategorie fällt, hängt vom jeweiligen Kontext und den Auswirkungen auf die Wahrnehmung der Authentizität oder Wahrhaftigkeit des Inhalts durch die betroffene Person im Einzelfall ab. So dürften beispielsweise KI-gestützte Farbkorrekturen, die Erweiterung des Hintergrunds vorhandener Inhalte, die Anpassung oder der Austausch von Hintergründen aus rein ästhetischen Gründen, die Komposition und Anordnung vorhandener Produkte oder die Skalierung von Bildern in Produktwerbung oder auf Verpackungen nur geringe Auswirkungen auf die Wahrnehmung der Authentizität und Wahrhaftigkeit der Werbung und des Produkts haben. Umgekehrt kann eine wesentliche KI-gestützte Bearbeitung von Hintergrunddetails bei journalistischen Bildern, die über übliche technische oder redaktionelle Verfahren hinausgeht, die Wahrnehmung der Authentizität und Wahrhaftigkeit des Inhalts negativ beeinflussen.“
In Rn. 116 der Kommissionsleitlinien wird diese Abgrenzung anhand von Beispielen veranschaulicht, unter anderem aus demBereich der Werbung: Ein Deepfake kann danach vorliegen, wenn ein KI-generiertes Bild eines Produkts in Werbung oder Verpackung die Wahrnehmung des Publikums beeinflussen und über das tatsächliche Aussehen, die Eigenschaften oder die Verwendung des Produkts irreführen kann – beispielsweise indem das Produkt attraktiver oder qualitativ hochwertiger erscheint als in Wirklichkeit.
Kein Deepfake ist nach demselben Beispielskatalog dagegen grundsätzlich ein reales Produkt – etwa ein Auto –, das in einer Werbung vor einem KI-generierten Hintergrund und in einer KI-generierten Umgebung gezeigt wird, solange die Werbung das Publikum voraussichtlich nicht über die tatsächliche Darstellung, die Eigenschaften oder die Verwendung des Produkts irreführt.
KI-generierte Texte: Nur bei öffentlichem Interesse
Art. 50 Abs. 4 Unterabs. 2 KI-VO betrifft Betreiber von KI-Systemen, die Texte erzeugen oder manipulieren, wenn diese veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. In diesem Fall muss grundsätzlich offengelegt werden, dass der Text künstlich erzeugt oder manipuliert wurde.
Zur Frage, welche Angelegenheiten von öffentlichem Interesse sind, wird in den Kommissionsleitlinien (Rn. 131) wie folgt ausgeführt (Übersetzung aus dem Englischen):
„Im Allgemeinen sind hierunter Angelegenheiten zu verstehen, die für die Gesellschaft als Ganzes von Bedeutung sind – sei es auf lokaler, nationaler, unionsweiter oder internationaler Ebene – und die eine öffentliche Debatte oder kritische Prüfung rechtfertigen. In diesem Sinne gelten Texte als Beiträge zu Angelegenheiten von öffentlichem Interesse, wenn sie Themen wie Politik und demokratische Prozesse, öffentliche Verwaltung und Dienstleistungen, Rechtspflege und Strafverfolgung, den Schutz der Grundrechte, öffentliche Sicherheit, öffentliche Gesundheit, Umweltschutz, Verbrauchersicherheit sowie wirtschaftliche, finanzielle, politische, wissenschaftliche oder kulturelle Entwicklungen behandeln, die Gegenstand einer öffentlichen Debatte sein können. Welche Angelegenheiten als solche von öffentlichem Interesse gelten, kann sich im Laufe der Zeit und je nach Kontext wandeln.“
Instruktiv für Unternehmer ist insbesondere folgendes Beispiel, dass in den Kommissionsleitlinien in diesem Zusammenhang aufgeführt ist: Danach soll die Kennzeichnungspflicht nach den vorgenannten Kriterien nicht einschlägig sein für „Text, der Teil der Werbung oder der Produktbeschreibungen eines Unternehmens ist (ausgenommen sind Aussagen, die sich beispielsweise auf Gesundheit, Verbrauchersicherheit oder Nachhaltigkeit beziehen)“.
Eine praktisch wichtige Ausnahme besteht, wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.
Die Kommission versteht unter menschlicher Überprüfung eine bewusste inhaltliche Prüfung durch eine oder mehrere natürliche Personen mit einschlägigen Kenntnissen und fachlichem Urteilsvermögen.
Unter redaktioneller Kontrolle versteht die Kommission die Kontrolle, die eine verantwortliche Redaktion (z. B. ein Chefredakteur) in der Praxis über den Inhalt ausübt, der befugt ist, den Inhalt des Textes aus sachlichen Gründen (einschließlich der Überprüfung von Informationen und der Gewährleistung der Vertrauenswürdigkeit der Quellen) zu genehmigen, zu ändern oder abzulehnen.
Rein oberflächliche oder formale Kontrollen, etwa eine Rechtschreib- oder Grammatikkorrektur, reichen nicht aus.
Veröffentlichter Text, der einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde, muss nicht gekennzeichnet werden.
Wie kann die Kennzeichnung umgesetzt werden?
Praktische Hilfestellung bietet der Verhaltenskodex zur Transparenz KI-generierter Inhalte.
Abschnitt 1 behandelt die Pflichten der Anbieter nach Art. 50 Abs. 2, und enthält unter anderem auch maschinenlesbare Lösungen.
Abschnitt 2 behandelt die Pflichten der Betreiber nach Art. 50 Abs. 4 und enthält unter anderem praktische Anleitungen für die Gestaltung, Platzierung und Präsentation von Etiketten, Haftungsausschlüssen oder Icons, wobei spezifische Regelungen für künstlerische, kreative, satirische, fiktive oder analoge Werke sowie Fälle mit menschlicher Überprüfung und redaktioneller Verantwortung berücksichtigt werden. Anhang I enthält ein optionales EU-Symbol mit drei Symbolvarianten zur Umsetzung der Kennzeichnungspflicht der Betreiber.
Mit der Unterzeichnung des Kodex signalisieren Anbieter und Betreiber ihre Absicht, ihre Verpflichtungen einzuhalten. Der Verhaltenskodex ist freiwillig und die Transparenzverpflichtungen können auch auf anderem Wege erfüllt werden. Der Verhaltenskodex soll Anbietern und Betreibern jedoch einen vorhersehbaren und rechtssicheren Weg an die Hand geben und die zuständigen Behörden werden sich Unterzeichnern gegenüber bei ihren Überwachungsaktivitäten auf die Einhaltung des Verhaltenskodex konzentrieren.
Fazit
Während die Transparenzpflichten für Anbieter von KI-Systemen einen vergleichsweise engeren Kreis von Unternehmen beziehungsweise Sachverhalten betreffen, sind die Pflichten für Betreiber von KI-Systemen (also vereinfacht gesagt die Nutzer/Anwender der KI-Systeme) allein schon deshalb für einen sehr weiten Kreis von Unternehmen relevant, weil die Erstellung von Inhalten mithilfe von KI – etwa für die Internetpräsenz des Unternehmens – mittlerweile gang und gebe ist.
Konkret müssen Betreiber bei Bild-, Ton- und Videoinhalten Deepfakes kennzeichnen. Um ein Deepfake handelt es sich vereinfacht gesagt dann, wenn der Inhalt über seine Echtheit täuschen kann und dies im jeweiligen Kontext relevant ist. Bei Texten gelten engere Voraussetzungen für eine Kennzeichnungspflicht.
Für die Umsetzung der Kennzeichnung hat die EU-Kommission einen Verhaltenskodex veröffentlicht, den Betreiber unterzeichnen können.
Rechtsanwalt Marc Dimolaidis LL.M.
WEITERE ARTIKEL ZUM KI-RECHT
