Das Wichtigste in Kürze:
- Die KI-Verordnung unterscheidet zwischen Anbietern (Entwicklern) und Betreibern (Anwendern), wobei Anbieter strengere Vorgaben haben, um Systeme bereits technisch kennzeichnungspflichtig zu gestalten.
- KI-generierte oder manipulierte Bilder, Audios und Videos (Deepfakes) müssen klar, maschinenlesbar und barrierefrei als solche markiert werden, sobald sie für den Betrachter real wirken könnten.
- Eine Kennzeichnung von Texten ist vor allem dann verpflichtend, wenn sie die öffentliche Meinungsbildung beeinflussen; bei rein unterstützenden Arbeiten oder starker redaktioneller Bearbeitung entfällt die Pflicht.
- Verstöße gegen diese Transparenzvorgaben sind kein Kavaliersdelikt und können mit Bußgeldern von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes bestraft werden.
Besonders wichtig sind die Transparenzpflichten, die beim Einsatz von generativer KI gemäß Art. 50 der KI-Verordnung zu beachten sind. Die KI-Verordnung kennt verschiedene Akteure. Je nachdem, ob ein Unternehmen als Anbieter oder Betreiber von KI angesehen wird, bestehen unterschiedliche Pflichten.
Anbieter ist jedes Unternehmen, das ein KI-System entwickelt, entwickeln lässt oder unter eigenem Namen auf dem Markt anbietet. Der Betreiber dagegen ist jedes Unternehmen, das KI-Systeme in eigener Verantwortung für die geschäftliche Tätigkeit verwendet. Wenn Sie also KI-Tools verwenden, um Text oder Bilder für Social Media und Ihre Homepage zu erstellen, sind Sie Betreiber.
Anbieter von KI haben einen größeren Einfluss auf die Gestaltung des Systems als Betreiber, sodass diese auch strengeren Transparenzvorgaben unterliegen. Aus Art. 50 Abs. 1 der KI-Verordnung folgt, dass Anbieter ihre KI-Systeme so gestalten müssen, dass der Adressat unterscheiden kann, ob er gerade mit einem echten Menschen oder mit einer KI kommuniziert. Das gängigste Beispiel für solche interaktiven Systeme sind Chatbots, die auf Webseiten eingesetzt werden, um Anfragen zu Bestellungen oder dem Produktangebot zu beantworten. Der Anbieter muss klar und eindeutig darauf hinweisen, dass es sich um KI handelt. Ähnliches gilt gemäß Art. 50 Abs. 2 der KI-Verordnung auch für KI-Systeme, die Audios, Bilder, Videos oder Texte erzeugen können.
Aktuell sollte zur Sicherheit jeder vollständig durch KI generierte oder manipulierte Text gekennzeichnet werden (Bildquelle: © solom – stock.adobe.com)
Umfasst ist sowohl das Erstellen eines Inhaltes als auch die Manipulation bestehender Medieninhalte, also die nachträgliche künstliche Verfremdung. Ein bekanntes Beispiel sind Bilder oder Videos von Personen, deren Gesichter künstlich ausgetauscht werden, um den Eindruck zu erzeugen, es handele sich um eine andere Person.
Hinweispflichten auf dem mit KI erzeugten Resultat
Das mit KI erzeugte Bild, Audio, Video oder der Text muss mit einem Hinweis versehen werden. Als Hinweistext bietet sich die Formulierung „mit KI erzeugtes Video“ an, wobei keine konkreten Formulierungsvorgaben bestehen; jedoch müssen die Vorgaben zur Barrierefreiheit berücksichtigt werden. Der Hinweis muss spätestens dann erfolgen, wenn der Mensch dem generierten Inhalt das erste Mal ausgesetzt wird. Gemeint ist der Zeitpunkt, in dem der Inhalt ausgegeben wird. Der Hinweis muss für den Menschen einfach erkennbar und zusätzlich maschinenlesbar sein.
Was gilt als KI? Ein KI-System ist maschinengestützt, handelt autonom, ist anpassungs- und ableitungsfähig, kann Ausgaben erstellen und seine Umgebung beeinflussen. Alle bekannten Programme auf dem Markt, die künstliche Inhalte generieren können, fallen unter den Begriff des KI-Systems.
Das bedeutet, dass auch Software den Hinweis auslesen können muss. In Betracht kommen beispielsweise Hinweise in Textform, als Metadaten oder Wasserzeichen. Kein Hinweis ist erforderlich, wenn das KI-System nur unterstützende Arbeiten ausführt, wie etwa die rein optische Bildbearbeitung, oder wenn das Ergebnis noch maßgeblich von einem Menschen bearbeitet wird.
Die vorgenannten Pflichten haben die Anbieter sicherzustellen. Die KI-Verordnung legt jedoch auch dem Betreiber Transparenzpflichten auf. Gemäß Art. 50 Abs. 4 KI-Verordnung müssen Betreiber offenlegen, wenn ein Bild-, Ton- oder Videoinhalt durch KI erzeugt oder manipuliert worden ist, sofern es sich um ein sogenanntes „Deepfake“ handelt. Texte sind nicht betroffen, da diese eine eigenständige Regelung erhalten haben.
Was ist ein Deepfake?
Ein Deepfake liegt dann vor, wenn das Ergebnis Menschen, Gegenständen, Orten, Einrichtungen oder Ereignissen derart ähnlich sieht, dass ein Mensch diese fälschlicherweise als echt oder wahrheitsgemäß ansehen würde. Maßgeblich ist also, ob eine Ähnlichkeit zwischen der Realität und der künstlichen Darstellung besteht und die Inhalte real wirken. Ziel der Regelung ist auch hier, eine Täuschung des Betrachters zu verhindern. Es ist auf den durchschnittlichen Betrachter abzustellen, der den Inhalt nur beiläufig erfasst. Geht dieser von einem authentischen Inhalt aus, wird ein Deepfake vorliegen. Im Zweifel sollte eine Kennzeichnung aber vorbeugend erfolgen.
Auch bei Deepfakes sollte der Hinweis klar verständlich, gut sichtbar, maschinenlesbar und barrierefrei angebracht werden. Bezüglich der Verständlichkeit des Hinweises sind die Besonderheiten des Adressatenkreises zu beachten: Nutzer sozialer Plattformen können den Hinweis „KI-generiert“ verstehen. Werden Deepfakes aber in Werbeprospekten verwendet, die auch ältere Menschen erreichen, wird ein ausführlicherer Hinweis ohne Abkürzungen erforderlich sein.
Auch interessant: Der Widerrufsbutton: Das müssen Websitebetreiber beachten!
Auch von der Transparenzpflicht für Deepfakes gibt es Ausnahmen. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks, wird Rücksicht auf den Genuss des Werkes genommen. Bei einem künstlerischen Film müsste ein Hinweis also nicht dauerhaft eingeblendet werden, sondern nur zu Beginn und am Ende.
Sonderregelung für Texte
Für KI-generierte oder manipulierte Texte gibt es eine Sonderregelung. Ein Hinweis muss dann erfolgen, wenn der generierte Text veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Es genügt, wenn der Inhalt eine gewisse Relevanz für die öffentliche und überregionale Meinungsbildung hat.
Aktuell sollte zur Sicherheit jeder vollständig durch KI generierte oder manipulierte Text gekennzeichnet werden. Die Rechtsprechung der kommenden Jahre wird die einzuhaltenden Vorgaben präzisieren.
Die Vorgaben für die Art der Kennzeichnung sind identisch wie bei Deepfakes. Es kann etwa formuliert werden: „KI-generierter Text“.
Tipp für Social Media: Für Social-Media-Beiträge bedeutet das, dass Sie nur dann auf die Verwendung von KI hinweisen müssen, wenn der Text vollständig von KI generiert wurde und Sie danach keine wesentlichen Änderungen mehr vorgenommen haben.
Keine Kennzeichnung muss erfolgen, wenn entweder eine redaktionelle Bearbeitung stattfindet oder die KI nur als Werkzeug für Hilfsarbeiten verwendet wird. Nimmt die KI also nur eine Übersetzung oder eine Rechtschreibkorrektur vor oder wird der vorbereitete Text umfangreich durch einen Menschen verändert, besteht keine Kennzeichnungspflicht.
Bußgelder bei Verstößen möglich
Verstöße gegen Transparenzvorgaben werden massiv sanktioniert. Gemäß Art. 99 Abs. 4 der KI-Verordnung können Bußgelder in Höhe von bis zu 15 Millionen Euro oder alternativ von bis zu 3 % des gesamten weltweiten Jahres-
umsatzes des vorangegangenen Geschäftsjahres verhängt werden. Es gilt immer der höhere Betrag.
Bei KI-generierten Inhalten erhalten auch rechtliche Fragen in Bezug auf Persönlichkeitsrechte, den Datenschutz, Marken- und Urheberrechte sowie das Wettbewerbsrecht eine wichtige Relevanz. Deshalb ist eine fachkundige Prüfung Ihrer Werbemaßnahmen zu empfehlen.
Fazit
Die Kennzeichnungspflichten für KI-generierte Inhalte auf Social Media sind durch die EU-KI-Verordnung klar geregelt. Verstöße gegen diese Vorgaben können mit erheblichen Bußgeldern geahndet werden, weshalb eine sorgfältige Umsetzung unerlässlich ist. Das UnternehmensNavi® bietet mit seinen KI-Schulungen eine Unterstützung, damit Unternehmen rechtssicher und effizient mit den neuen Anforderungen umgehen können.
Bildquelle Header: © everythingpossible – stock.adobe.com
