Künstlich erzeugte oder manipulierte Bild-, Ton- und Videoinhalte, in denen reale Personen, Orte oder Ereignisse erkennbar sind, gehören aufgrund der fortschreitenden Entwicklung künstlicher Intelligenz zum medialen Alltag. Während solche Deepfakes kreativen oder unterhaltenden Zwecken dienen können, bergen sie auch erhebliche Risiken. Künstlich erstellte Stimmen und Videos können für Desinformation, Betrug und Manipulation missbraucht werden.
Der europäische Gesetzgeber versucht, diese Risiken in der KI-Verordnung insbesondere durch Transparenzpflichten zu verringern.
Was sind Deepfakes nach der KI-Verordnung?
„Deepfake“ ist definiert als ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“, Art. 3 Nr. 60 KI VO.
Neben der Ähnlichkeit des KI-Outputs mit der Realität muss der Inhalt also auch so gestaltet sein, dass Personen ihn für echt halten könnten. Nicht ganz klar ist, auf welche Personen(gruppe) insoweit abzustellen ist – die KI-Verordnung geht hier nicht weiter ins Detail. Aufgrund des Schutzzwecks der Transparenzpflichten und der sich stetig verbessernden Qualität des KI-Outputs werden hieran keine besonders hohen Anforderungen zu stellen sein. Ein Deepfake wird aktuell zu bejahen sein, wenn ein durchschnittlich aufmerksamer Nutzer bei oberflächlicher Betrachtung des Inhalts davon ausgehen kann, dass er der Realität entspricht.
Wer ist zur Transparenz verpflichtet?
Die KI-Verordnung unterscheidet hinsichtlich der Transparenzpflichten von Deepfakes zwei Gruppen von Verpflichteten.
Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, also auch Deepfakes erstellen können. Damit sind Personen oder Institutionen gemeint, die ein solches KI-System entwickeln oder entwickeln lassen und in Verkehr bringt oder selbst in Betrieb nimmt.
Betreiber von KI-Systemen, die Deepfakes erstellen können. Also solche Personen oder Institutionen, die ein solches KI-System verwenden. Ausgenommen hiervon sind jedoch Privatpersonen, die das KI-System nicht zu beruflichen Zwecken nutzen.
Wie werden Transparenzpflichten erfüllt?
Die KI-Verordnung legt Anbietern und Betreibern von KI-Systemen, die Deepfakes erstellen, unterschiedliche Pflichten zur Transparenz auf.
Die Europäische Kommission hat am 17.12.2025 den ersten Entwurf eines Verhaltenskodex veröffentlicht, der sich damit befasst, wie diese Transparenzpflichten erfüllt werden können. Zwar garantiert das Einhalten des Verhaltenskodex nicht die Erfüllung der Transparenzpflichten nach der KI-VO, genauso wie das Nichtbefolgen keinen Verstoß gegen die Transparenzpflichten indiziert. Die Anforderungen des Verhaltenskodex helfen jedoch, die Compliance-Anforderungen etwas greifbarer zu machen.
Anbieter müssen gemäß Art. 50 Abs. 2 KI-VO ihr KI-System so konfigurieren, dass der KI-Output in einem maschinenlesbaren Format gekennzeichnet wird.
Nach dem Verhaltenskodex der Kommission kann dies etwa durch das Einfügen von Wasserzeichen und einem entsprechenden Hinweis in den Metadaten erfolgen. Aus diesen Informationen soll die Herkunft des jeweiligen Inhalts und die Art der KI-Verwendung (z. B. Generierung oder Bearbeitung) hervorgehen. Diese Kennzeichnungen dürfen nicht entfernt werden können.
Darüber hinaus haben Anbieter nach dem Verhaltenskodex dafür zu sorgen, dass Betreiber ihrer Transparenzpflicht nachkommen können.
Betreiber sind dazu verpflichtet, die künstliche Erzeugung oder Manipulation der Inhalte „offenzulegen“.
Perspektivisch soll dies nach dem Verhaltenskodex der Kommission durch ein EU-einheitliches Icon erfolgen. Dieses Icon existiert aktuell nicht, sodass Betreiber ein provisorisches Icon verwenden sollen.
Darüber hinaus enthält der Verhaltenskodex der Kommission weitere Vorgaben, wie Deepfakes, abhängig von der Art des Mediums, zu kennzeichnen sind.
Live-Videos
Möglichst durchgehendes Einblenden des Icons
Aufgezeichnete Videos
Alternativ oder kombiniert:
- Hinweis zu Beginn des Videos,
- durchgehendes Einblenden des Icons,
- Hinweis am Ende des Videos.
Bilder
Deutlich sichtbares Icon.
Audio (kürzer als 30 Sekunden)
Kurzer, in einfacher Sprache gesprochener Hinweis.
Audio (länger, z. B. Podcasts)
- Hinweis zu Beginn, während und zum Ende des KI-generierten Inhalts.
- Ist eine grafische Darstellung möglich, z. B. bei Podcasts auf dem Smartphone, ist zusätzlich das Icon anzuzeigen.
Werden Deepfakes zu künstlerischen Zwecken verwendet, sind sie ebenfalls zu kennzeichnen. Jedoch soll hierdurch die künstlerische Ausdrucksweise nicht beeinträchtigt werden. Der Verhaltenskodex der Kommission sieht vor, dass das Kennzeichen mit dem ersten Wahrnehmen des Inhalts erkennbar ist. Bei Audio-Inhalten verzichtet der Verhaltenskodex auf den eingesprochenen Hinweis, sofern ein Display zur Anzeige des Icons nutzbar ist.
Ab wann gelten die Kennzeichnungspflichten?
Nach der am 01.08.2024 in Kraft getretenen KI-Verordnung gelten die Regelungen zur Kennzeichnungspflicht ab dem 02.08.2026.
Ab diesem Zeitpunkt müssen Anbieter und Betreiber von KI-Systemen, mit denen Deepfakes erstellt werden können, sämtliche Transparenzpflichten der KI-VO einhalten.
Gibt es noch weitere relevante Regelungen für Deepfakes?
Auf europäischer Ebene sind sehr große Online-Plattformen und sehr große Online-Suchmaschinen nach dem Digital Services Act (DSA) verpflichtet, die mit ihrem Betrieb zusammenhängenden systemischen Risiken zu minimieren. Als hierfür geeignete Maßnahme führt der DSA auch die auffällige Kennzeichnung von Deepfakes auf.
Im nationalen Recht sind neben den zivilrechtlichen Abwehransprüchen auch strafrechtliche Vorschriften relevant, die den Missbrauch von Deepfakes verhindern sollen. Denkbar sind Straftaten wie Beleidigung, Betrug oder Erpressung mittels Deepfakes. Die Nutzung von Deepfakes als belastendes Beweismittel im Strafverfahren kann als falsche Verdächtigung strafbar sein. Auch das Recht am eigenen Bild ist strafrechtlich geschützt, sodass bereits die unzulässige künstliche Erstellung und Veröffentlichung des Bildes einer Person mit Strafe bewehrt sein kann.
Sie möchten rechtssicher KI-generierte Inhalte für Ihr Unternehmen verwenden?
Unsere Kanzlei berät Sie umfassend zu Compliance-Fragen im Zusammenhang mit dem Einsatz von künstlicher Intelligenz. Vereinbaren Sie jetzt einen Beratungstermin und reduzieren Sie Ihre rechtlichen Risiken.