Ein Kunde brachte kürzlich ein Problem mit, das auf den ersten Blick banal wirkt: Das gewünschte Key Visual für sein Unternehmen ist eine Pusteblume, KI-generiert, weil es das exakte Motiv als reale Fotografie so nicht gibt. Es sieht fotorealistisch aus. Kein Deepfake im umgangssprachlichen Sinn, keine Person, kein Ort, kein Ereignis. Trotzdem die Frage: Muss das gekennzeichnet werden?

Die kurze Antwort ist nein. Die interessante Antwort ist, warum, und wo genau die Grenze zu Fällen verläuft, in denen die Antwort ja lautet.

Zwei Pflichten, zwei Adressaten

Der AI Act unterscheidet in Artikel 50 zwischen zwei völlig unterschiedlichen Verpflichtungen, die in der Praxis oft durcheinandergeworfen werden.

Artikel 50 Absatz 2 verlangt von Anbietern generativer KI-Systeme (Midjourney, DALL-E, Adobe Firefly und vergleichbare Tools), ihre Ausgaben maschinenlesbar zu markieren. Das ist die Ebene, auf der Standards wie C2PA ansetzen: unsichtbare, signierte Metadaten im Bild selbst, kein visuelles Badge. Diese Pflicht trifft den Tool-Hersteller, nicht das Unternehmen, das das Tool nutzt.

Artikel 50 Absatz 4 verlangt von Betreibern, also von Unternehmen, die KI-Inhalte veröffentlichen, eine sichtbare Kennzeichnung von Deepfakes und von KI-generiertem Text zu Themen von öffentlichem Interesse. Das ist die Ebene, die für die meisten Unternehmenswebsites relevant ist, und genau hier liegt die eigentliche Frage bei einem Key Visual.

Warum die Pusteblume durchrutscht

Die Legaldefinition in Artikel 3 Nummer 60 setzt für einen Deepfake voraus, dass der Inhalt echten Personen, Orten, Gegenständen, Einrichtungen oder Ereignissen ähnelt und fälschlicherweise als echt erscheinen könnte. Entscheidend ist dabei nicht, ob die Gattung real existiert, sondern ob das Bild sich als Abbild eines bestimmten, einzelnen, in der Wirklichkeit auffindbaren Dings ausgibt. Type versus Token, um es mit einem Begriff aus der Sprachphilosophie zu fassen.

Eine Pusteblume als Pflanzenart existiert selbstverständlich. Aber das Bild behauptet nicht, eine bestimmte, identifizierbare Pusteblume zu zeigen, die irgendwo tatsächlich steht oder stand. Niemand würde fragen, welche Pusteblume das genau ist. Es fehlt der Einzelbezug, der die Täuschungsgefahr überhaupt erst begründet.

Anders bei einem KI-Bild, das behauptet, das Brandenburger Tor zu zeigen, oder bei einem synthetischen Video, das eine erkennbare Person in einer Situation zeigt, die nie stattgefunden hat. Dort gibt es ein konkretes Referenzobjekt, über dessen Authentizität getäuscht werden kann.

Wo es tatsächlich schwierig wird

Die Kanzlei Härting hat in ihrem Beitrag zu den Transparenzpflichten der KI-Verordnung genau die Fälle benannt, in denen diese saubere Trennung zusammenbricht. Ausdrücklich als ungeklärt bezeichnen sie fotorealistische, aber tatsächlich nicht existierende KI-Menschen, etwa realistisch wirkende Models in Onlineshops oder virtuelle Influencer ohne reales Vorbild.

Der Grund, warum ausgerechnet Menschendarstellungen zum Problem werden, liegt an der Wahrnehmung selbst. Ein Gehirn liest Gesichter grundsätzlich als Identität, nicht als Gattung. Ein fotorealistisches, aber komplett fiktives Gesicht wirkt trotzdem wie ein bestimmtes Individuum, selbst wenn dieses Individuum nirgends existiert. Genau diese Täuschungsgefahr, die Artikel 50 Absatz 4 verhindern will, entsteht bei einer Pflanze strukturell nicht.

Für ein klassisches Stockfoto-Motiv, drei lachende Menschen im Büro als reiner Platzhalter ohne Orts- oder Personenbezug im Begleittext, spricht vieles gegen eine Kennzeichnungspflicht, weil auch der Kontext keine Authentizität suggeriert. Zwingend geklärt ist das aber noch nicht. Die endgültigen Leitlinien der Kommission zu Artikel 50 stehen zum Zeitpunkt dieses Artikels noch aus.

Ein Prüfschema für die Praxis

Aus den bisherigen Fällen lässt sich ein vierstufiges Schema ableiten, mit dem sich die meisten Bilder auf einer Website einordnen lassen.

Flussdiagramm zur Prüfung der Kennzeichnungspflicht nach Art. 50 AI Act: vier Fragen führen von KI-Erzeugung über Einzelbezug und Realismus bis zum Kontext zur Einordnung als kennzeichnungspflichtig oder nicht

Die vier Fragen im Überblick:

1. Wurde der Inhalt durch KI erzeugt oder wesentlich verändert? Reine Retusche fällt unter die Assistive-Function-Ausnahme und bleibt außen vor.
2. Behauptet das Bild ein konkretes, identifizierbares Einzelding, keine Gattung? Ohne Einzelbezug endet die Prüfung hier, wie bei der Pusteblume.
3. Wirkt der Inhalt realistisch genug, um als authentisch durchzugehen? Erkennbar künstlerische oder als fiktional gekennzeichnete Inhalte fallen unter die abgeschwächte Ausnahme der Guidelines.
4. Suggeriert der Kontext eine reale, dokumentierte Situation? Ein klar erkennbares Symbolbild ist etwas anderes als ein Bild, das mit "unser Team" oder "echte Kunden" unterschrieben ist.

Nur wenn alle vier Fragen mit ja beantwortet werden, entsteht nach aktuellem Stand eine Kennzeichnungspflicht nach Artikel 50 Absatz 4.

Parallel dazu, unabhängig vom Bild-Schema, bleibt die Pflicht zur Kennzeichnung von KI-generiertem Text zu Themen von öffentlichem Interesse bestehen, außer ein Mensch trägt die redaktionelle Verantwortung für die Veröffentlichung.

Was das für die eigene Praxis bedeutet

Wer wie unser Kunde ein generisches, stilisiertes Motiv als Key Visual einsetzt, muss sich um eine sichtbare Kennzeichnung aktuell keine Sorgen machen. Wer dagegen mit KI-generierten Menschen arbeitet, die wie echte Mitarbeiter, Kunden oder Testimonials wirken sollen, bewegt sich in genau der Grauzone, die noch nicht abschließend geklärt ist, und sollte das Risiko bewusst statt zufällig eingehen.

Unabhängig von der rechtlichen Pflicht bleibt ein einfacher, kostenloser Schritt sinnvoll: C2PA-Metadaten, die ein Tool beim Export erzeugt, einfach nicht entfernen. Das erfüllt keine eigene Pflicht des Betreibers, schadet aber auch nicht und schafft nebenbei Transparenz, die dem eigenen Vertrauensaufbau eher nützt als schadet.

Wir arbeiten an einem kurzen interaktiven Check, mit dem sich das obige Schema direkt auf ein konkretes Bild anwenden lässt. Sobald er live ist, verlinken wir ihn hier.

Quelle: Härting Rechtsanwälte, Transparenzpflichten in der KI-Verordnung