Muss ich KI-Bilder in meiner Website kennzeichnen?
Hinweis: Wir beschäftigen uns in diesem Artikel nur mit der Kennzeichnungspflicht für Bilder, Audio- oder Videodateien! Wenn Euch die Kennzeichnungspflicht von Texten ebenfalls interessiert, dann schreibt uns gerne.
Muss ich KI-Bilder in meiner Website kennzeichnen?
Die Antwort lautet wie so oft: "kommt d'rauf an".
In diesem Artikel zeige ich Euch, worauf Ihr achten müsst, wann Ihr Bilder kennzeichnen müsst und wie das genau aussehen muss.
Aber der Reihe nach: In Deutschland ist der europäische EU AI Act durch die KI-Verordnung (KI-VO) umgesetzt. In ihr finden sich auf nationaler Ebene alle Regelungen des EU AI Act wieder.
In Artikel 50 KI-VO findet sich tatsächlich eine Kennzeichnungspflicht für Inhalte (Texte, Bilder, Videos und Audio) welche mittels künstlicher Intelligenz (KI) erzeugt oder bearbeitet wurden.
Dies gilt für nicht nur für Websites, sondern für alle Arten von Publikationen.
Wie muss die Kennzeichnung erfolgen?
Die KI-VO unterscheidet bei Pflichten stets nach der jeweiligen "Rolle" des Verpflichteten. Gemeint ist hier die Rolle, die der Verpflichtete beim Einsatz eines zu regulierenden KI-Systems spielt: Ob er dieses herstellt, vertreibt oder nur einsetzt.
Bei den Kennzeichnungspflichten des Artikel 50 KI-VO wird grundsätzlich unterschieden zwischen dem "Anbieter" eines KI-Systems und dem "Betreiber".
Sowohl Anbieter als auch Betreiber werden hier mit Kennzeichnungspflichten belegt. Diese sind aber unterschiedlicher Art.
Hier gilt es also zunächst zu klären, ob man als Anbieter gilt (dann gilt Absatz 2 des Artikel 50 KI-VO), oder ob man Betreiber ist (dann gilt Absatz 4 des Artikel 50 KI-VO):
Bin ich "Anbieter" oder "Betreiber"?
Die Unterscheidung zwischen Anbieter und Betreiber ist in Artikel 3 Nr.3 und Nr.4 KI-VO geregelt und relativ einfach erklärt:
- Anbieter ist derjenige, der ein KI-System entwickelt oder im eigenen Namen vertreibt - also zum Beispiel Google oder OpenAI. Als Anbieter eines KI-Systemes gelten aber auch Softwarehersteller, welche ein KI-Modell in ihre Software einbauen, wie zum Beispiel Adobe mit ihrer Software Photoshop.
- Betreiber ist der Anwender des KI-Systems, welcher das KI-System bzw. die damit erstellten Inhalte nutzt (Artikel 3 Nr. 4 KI-VO). Hierunter fällt also zum Beispiel auch der Betreiber einer Website, auf der mit KI generierte oder veränderte Bilder gezeigt werden.
Die Kennzeichnung durch den Anbieter
Anbieter von KI-Systemen werden durch Artikel 50 Absatz 2 KI-VO verpflichtet, alle KI-generierten Inhalte (Bilder, Video, Audio und Textinhalte) in einer maschinenlesbaren Form als KI-generierte Inhalte zu kennzeichnen.
Was hier im Absatz 2 mit "maschinenlesbar" gemeint ist, wird von der EU im ersten Entwurf des Code of Practice (COD) genauer definiert.
Demnach genügt es z.B. nicht, wenn Anbieter generierte Bilder lediglich mit entsprechenden Metadaten oder Wasserzeichen versehen. Diese könnten leicht durch Kompression oder Beschnitt eines Bildes unlesbar werden. Es wird daher von Anbietern von KI-Systemen explizit eine "mehrstufige" Kennzeichnung mittels verschiedener technischer Mittel gefordert.
Die Kennzeichnung durch den Betreiber
Betreiber - also quasi die Verwender der KI-generierten Inhalte - sind ebenfalls zu einer Kennzeichnung der verwendeten Inhalte verpflichtet.
Diese Kennzeichnungspflicht für Betreiber ist geregelt in Art. 50 Absatz 4 KI-VO.
Dort heisst es unter anderem:
„Betreiber eines KI‑Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden...“
Hier stellt sich natürlich die Frage, was genau mit "offenlegen" gemeint ist, und welche Inhalte als kennzeichnungspflichtiger "Deepfake" gelten.
Wie muss die "Offenlegung" durch den Betreiber erfolgen?
Die KI-VO definiert zunächst nicht, in welcher Form der Betreiber "offenlegen" muss, dass Inhalte KI-generiert oder K-manipuliert sind.
Da ja durch den Artikel 50 Absatz 2 KI-VO der Anbieter bereits gezwungen ist, die Inhalte maschinenlesbar zu kennzeichnen, könnte man auf die Idee kommen, dass dies bereits als "Offenlegung" ausreichen könnte.
Genügt es, wenn ich als Betreiber auf die Kennzeichnung durch den Anbieter vertraue?
Die Antwort lautet leider: Nein.
Absatz 4 schreibt ausdrücklich eine "menschenlesbare" Kennzeichnung vor. Dies folgert u.a. anderem aus dem Erwägungsgrund Nr. 134 zu Artikel 50.
Auch lässt sich dies aus der Systematik des Absatz 4 schliessen, der auch mit seinen übrigen Regelungen den Schutz des Menschen vor unbemerkter Interaktion mit KI bewirken will.
Adressat der in Absatz 4 vom Betreiber geforderten Kennzeichnungen ist daher der Mensch, nicht eine Maschine. Aus diesem Grund ist die rein maschinenlesbare Kennzeichnung, wie sie von Anbietern in Absatz 2 gefordert ist hier leider nicht ausreichend.
Die menschenlesbare Kennzeichnung ist durch den Betreiber also in Absatz 4 zusätzlich zur maschinenlesbaren Kennzeichnung durch den Anbieter vorgeschrieben.
Die EU stellt offizielle Icons für die Kennzeichnung bereit
Ein weiteres Indiz für die beabsichtigte menschenlesbare Kennzeichnung ist zudem, dass die Europäische Union offizielle Icons für die menschenlesbare Kennzeichnung von KI-generierten oder KI-bearbeiteten Bildern oder Videos entwickelt hat.
Die Icons können hier heruntergeladen werden:
https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content
Aus der Bereitstellung dieser Icons kann im Übrigen auch gefolgert werden, dass der Gesetzgeber hier eine explizite Kennzeichnung direkt am Werk - also zum Beispiel auf dem Bild - wünscht.
Eine reine Auflistung der betreffenden Bilder im Impressum, wie man das bei Copyright-Hinweisen für Stockmotive kennt, genügt hier also leider auch nicht.
Welche Inhalte muss ich denn nun kennzeichnen?
Wie wir oben gesehen haben, muss ein Betreiber nur die in Absatz 4 erwähnten "Deepfakes" kennzeichnen.
Was ist ein "Deepfake" im Sinne der KI-VO?
In der KI-VO ist der Begriff "Deepfake" etwas weiter gefasst, als er im üblichen Sprachgebrauch verwendet wird.
Die Definition von Deepfake findet sich In Artikel 3 Nr.60 KI-VO:
„durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“
Das Schlüsselwort hier ist "wirklich".
Im englischen Original des EU AI Acts ist die Definition sprachlich noch ein bisschen deutlicher. Dort wird stattdessen der Begriff "existing" verwendet.
Das bedeutet, dass eine menschenlesbare Kennzeichnungspflicht gem. Artikel 4 für den Betreiber nur in den Fällen besteht, in denen mit einem KI-generierten oder mit KI bearbeiteten Bild real existierende Personen, Objekte, Orte oder Ereignisse abgebildet werden.
Ausnahmen für künstlerische Darstellungen
Satz 3 des Absatz 4 in Artikel 50 KI-VO klärt, dass rein künstlerische Darstellungen oder Bestandteile satirischere oder fiktionaler Werke nicht gekennzeichnet werden müssen.
Muss ein mit KI-Hilfe in Photoshop bearbeitetes Bild gekennzeichnet werden?
Die Frage ist, inwieweit "mittels KI bearbeitete" Inhalte gekennzeichnet werden müssen, wenn sie zum Beispiel lediglich mittels KI-Funktionen in Photoshop optimierte Bilder betreffen.
In der Definition des Deepfakes in Artikel 3 Nr. 60 KI-VO wird nur davon gesprochen, dass das Werk "einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde".
Hier kommt es dann vermutlich auf das Wort "fälschlicherweise" an: Wenn z.B. bei der Bearbeitung lediglich Tonwerte, Bildschärfe oder Farben verbessert wurden, liesse sich ernsthaft darüber streiten, ob hier überhaupt so etwas wie ein "falscher Eindruck" erweckt wird.
Es dürfte hier vermutlich einige Grenzfälle geben. Im Zweifel ist man daher mit einer Kennzeichnung auf der sicheren Seite.
Menschliche Bearbeitung vs. Ki-Bearbeitung
So einfach sich die Kennzeichnungspflicht für Abbildungen von Personen darstellt, so undurchsichtig wird die Beurteilung von "Deepfakes" bei Objekten wie zum Beispiel den Produkten in einer Website.
Nach dem Wortlaut des Absatz 4 müssten ja zum Beispiel fotorealistische 3D-Produktabbildungen gekennzeichnet werden, sobald sie von einer KI generiert oder damit bearbeitet wurden. Denn nach der Definition des Art. 3 Nr.60 KI-VO wären es wohl Deepfakes, da sie ja "fälschlicherweise als echt oder wahrheitsgemäß erscheinen".
Dieselben Abbildungen müssten aber wiederum nicht gekennzeichnet werden, wenn sie von einem Menschen zum Beispiel mittels eines 3D-Programmes gerendert oder in Photoshop bearbeitet wurden.
Das scheint wenig nachvollziehbar und man könnte argumentieren, dass hier zwei vergleichbare Sachverhalte völlig unterschiedlich behandelt werden.
Tatsächlich folgt dieser scheinbare Widerspruch aber aus dem Schutzgedanken des Artikel 50 KI-VO, welcher ausdrücklich auf die Gefahren massenhaft und automatisiert möglicher Generierung von DeepFakes abstellt, Dies folgt u.a. bereits aus dem Satz 2 des Erwägungsgrundes 133:
- Die breite Verfügbarkeit und die zunehmenden Fähigkeiten dieser Systeme wirken sich erheblich auf die Integrität des Informationsökosystems und das ihm entgegengebrachte Vertrauen aus, weil neue Risiken in Bezug auf Fehlinformation und Manipulation in großem Maßstab, Betrug, Identitätsbetrug und Täuschung der Verbraucher entstehen.
Wer auf Nummer sicher gehen möchte, sollte nicht nur Abbildungen realer Personen, sondern auch Produktabbildungen, die mit Hilfe von KI generiert oder bearbeitet wurden entsprechend gem. Artikel 50 Absatz 4 KI-VO kennzeichnen.
Hierfür bieten sich die von EU zur Verfügung gestellten offiziellen Icons an (siehe oben).
--
Der Autor ist seit 27 Jahren Geschäftsführer der Digitalagentur Werkbank GmbH, hat Rechtswissenschaften an der WWU Münster studiert und ist zertifizierter CDO (Bitkom) sowie KI Compliance Manager (ISITS).