15. August 2022
Deep Fake
TMC – Technology, Media & Communications

Deepfakes erkennen und bekämpfen

Deep Fakes sind seit Kurzem wieder in aller Munde. Aber was genau sind Deep Fakes und wie können sich Betroffene wehren?

Was haben Vitali Klitschko und Barack Obama gemeinsam? Beide sind Politiker. Und beide sind Opfer sog. Deepfakes geworden. Zu diesem spezifischen Phänomen der digitalen Welt stellen sich verschiedene Fragen: Was sind Deepfakes? Sind Deepfakes rechtsverletzend und wie kann man sich gegen unzulässige Deepfakes wehren? Dieser Beitrag soll dazu einen Überblick liefern.

Deepfakes: Manipulierte Aufnahmen von Personen

Deepfakes sind mit Hilfe von künstlicher Intelligenz (KI) erstellte, täuschend echt wirkende, aber manipulierte dynamische Bild-, Ton- und Videoaufnahmen. Dabei wird meist das Porträt einer Person, gelegentlich aber auch eine Aufnahme des gesamten Körpers in fremdes Bildmaterial eingesetzt. Darüber hinaus können Bewegtbilder so manipuliert werden, dass Lippenbewegungen künstlich erzeugt und mit ebenfalls manipuliertem Tonmaterial versehen werden, wodurch der Eindruck von gesprochenen Texten erzeugt wird, die so nie geäußert wurden. Die Ergebnisse und Einsatzgebiete variieren dabei stark. Sie hängen auch davon ab, wie viel Material die KI verarbeiten muss und welche Rechenleistung bei der Erstellung eines Deepfakes zur Verfügung steht. 

Es gibt dabei auch wirtschaftlich sinnvolle und gesellschaftlich erwünschte Einsatzgebiete von KI in der Bildbearbeitung: In der Filmbranche können digitale Bildmanipulationen die Synchronisierung erleichtern oder gar einen Nachdreh einzelner Szenen überflüssig werden lassen. Auch für Menschen mit Sprachbehinderung könnten sich – im digitalen Umfeld – so Möglichkeiten ergeben, eine alltägliche Konversation zu führen. Und der private Nutzer* könnte seine Abbildung etwa in seinen Lieblingsfilm integrieren und vermeintlich mit den Darstellern interagieren lassen.

Problematisch und unter dem Schlagwort Deepfakes bekannt geworden sind Bildmanipulationen in der öffentlichen Kommunikation. So sind Politiker bereits Opfer von Deepfakes geworden – etwa die eingangs erwähnten Barack Obama und Vitali Klitschko. „Barack Obama“ redete in dem Deepfake abfällig über seinen Nachfolger Donald Trump – und warnte gleichzeitig vor den Gefahren durch Deepfakes. „Vitali Klitschko“ sprach mit der Regierenden Bürgermeisterin von Berlin, Franziska Giffey, über angeblichen Sozialleistungsmissbrauch durch ukrainische Flüchtlinge.

Deepfakes bergen erhebliches Missbrauchspotenzial

Klar ist: In der Politik können Deepfakes gesellschaftliches Vertrauen erheblich beschädigen. Ein Video wie das von Barack Obama kann vom politischen Gegner im Wahlkampf missbraucht werden. Und in Kriegszeiten sind Deepfakes wie im Fall Klitschkos ein Mittel der politischen Propaganda, da sie zur Desinformation ideal geeignet sind. 

Auch im Wirtschaftsleben sind Manipulationen über Deepfakes denkbar, sei es von der Konkurrenz mit Schädigungsabsicht eingesetzt oder von Investoren zum Zwecke der Kursmanipulation initiiert. 

Missbrauchsgefahren bestehen auch in anderen Kontexten, so bei der sog. Deepfake-Pornografie. Hierbei werden Porträts von – zumeist weiblichen – Personen in pornografisches Filmmaterial eingefügt. Bisher betraf dieses Phänomen i.d.R. Prominente, mit der fortschreitenden Verfügbarkeit der Technologie dürfte es aber nicht hierauf beschränkt bleiben. 

Je mehr sich Deepfakes verbreiten, desto mehr steht die Verlässlichkeit von Bildern und Bildberichten in Frage. Die Unsicherheit, ob einem Video überhaupt noch vertraut werden kann, wird zunehmen. Die Frage, ob es sich um ein Deepfake handelt, wird sich häufiger stellen. Damit können auch echte Videos zu Unrecht in Fälschungsverdacht geraten. Wenn man sich aber bei keiner Bildaussage mehr sicher sein kann, ist die Basis der Verständigung in einer demokratischen Gesellschaft in Gefahr.

Deepfakes sind i.d.R. rechtsverletzend

Die destabilisierenden Folgen für die politische Kommunikation sind das eine, Rechtsverletzungen sind das andere. Wann eine Rechtsverletzung durch den Einsatz von Deepfakes vorliegt, ist nicht generell zu beantworten, es kommt wie immer auf den Einzelfall an. Nachstehend kann nur ein erster grober Überblick gegeben werden.

Wird das Bildnis einer fremden Person mittels Deepfake in neuem Kontext in Bildmaterial eingesetzt, dürfte es sich i.d.R. um eine Verletzung des allgemeinen Persönlichkeitsrechts und möglicherweise auch des Rechts am eigenen Bild handeln, sofern eine Einwilligung der betroffenen Person nicht vorliegt. Auch die Verletzung der DSGVO kommt in Betracht, werden doch mit dem Bild auch personenbezogene Daten verarbeitet, die sich auf eine identifizierbare natürliche Person beziehen. Nur bei künstlerischen Darstellungen, die als solche erkennbar sind, kann die Berufung auf die Kunstfreiheit Manipulationen, die in der politischen Kommunikation als Deepfakes inkriminiert wären, u.U. rechtfertigen.

Ferner kann die Erstellung und Nutzung von Deepfakes auch strafrechtlich relevant sein. Dies reicht von den Beleidigungs- und Verunglimpfungsdelikten über Betrug und Marktmanipulation bis hin zur Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen und entsprechende Sexualdelikte.  

Aber selbst die Erstellung eines Deepfake nur zur eigenen Nutzung ist nicht ohne Risiko. Erstellt etwa ein Nutzer ein Deepfake mit sich selbst in einem Film, ist die Verwendung des eigenen Bildes zwar unproblematisch. Es können aber mögliche Urheberrechte am verwendeten Filmmaterial eine Rolle spielen. Verwendet der Nutzer das Deepfake nur für sich selbst, dürfte eine Vervielfältigung des Materials durch die Privatkopieschranke gedeckt sein. Anders bei einer Veröffentlichung, z.B. auf YouTube. Hier ist u.a. eine Verletzung des Rechts der öffentlichen Zugänglichmachung denkbar. Allerdings könnte die Einstellung des Videos über weitere Schranken gedeckt sein. Zu denken ist hierbei insbesondere an die Pastiche-Schranke, die auch die Übernahme fremder Werkteile zulässt. Wie weit diese reicht, ist derzeit noch ungeklärt.

Welche Möglichkeiten hat ein Betroffener, sich gegen Deepfakes zur Wehr zu setzen?

Bei rechtsverletzenden Deepfakes bestehen verschiedene zivilrechtliche Ansprüche gegen Hersteller und Verbreiter, an erster Stelle sind Unterlassungsansprüche zu nennen. Diese können zunächst außergerichtlich im Wege der Abmahnung geltend gemacht werden. Führt dies nicht zum Erfolg, kann i.d.R. kurzfristig ein gerichtliches Verbot per einstweiliger Verfügung erreicht werden. Wird mit dem Deepfake zugleich eine unwahre Tatsachenbehauptung verbreitet, können Gegendarstellungs- und Richtigstellungsansprüche hinzukommen. Bei ganz gravierenden Rechtsverletzungen kann der Betroffene zudem Geldentschädigung („Schmerzensgeld“) verlangen.

Sind Hersteller und Verbreiter eines Deepfakes nicht zu ermitteln oder außerhalb des juristischen Zugriffsbereichs, rücken die Plattformen in den Fokus, auf denen die Deepfakes verbreitet werden. Auch diese können bei rechtsverletzenden Inhalten in Anspruch genommen werden, sie haften im Grundsatz als sog. Störer. Das bedeutet, dass sie ab Kenntnisnahme der Rechtsverletzung verpflichtet sind, diese zu unterbinden und die betroffenen Inhalte zu löschen. Tun sie das nicht oder nicht rechtzeitig, haften sie auf Unterlassung oder Schadensersatz. Dieses Notice-and-take-down-Verfahren, das nach der deutschen Rechtsprechung bereits seit Längerem greift, wird mit dem Digital Services Act nun auch einheitlich in der EU geregelt. Für das Zustandekommen des Gesetzes steht nur noch die Zustimmung des Ministerrats aus, was Formsache sein dürfte; substantielle Änderungen am Text sind nicht mehr zu erwarten. Handelt es sich um eine auch strafrechtlich relevante Persönlichkeitsrechtsverletzung, kann zudem über das NetzDG kurzfristig eine Löschung erreicht werden.

Unabhängig vom Notice-and-take-down-Prinzip können die großen Plattformen zudem nunmehr bereits mit dem Upload des Werkes auf Schadensersatz und Unterlassung haften – sofern das neue UrhDaG greift. Voraussetzung hierfür ist, dass a) die Plattform eine solche Marktposition hat, dass sie unter das Regime fällt, b) der Upload urheberrechtsverletzend ist und c) der Plattform solche technischen Informationen geliefert wurden, die eine automatische Filterung beim Upload ermöglichen. Zurzeit dürfte die letztgenannte Voraussetzung von Privatpersonen eher nicht erfüllt werden können, da die Plattformen die Kommunikation hier auf gewerbliche Anbieter ausrichten.

Stärkere Inanspruchnahme von Plattformen auf EU-Ebene

Auch auf europäischer Ebene ist das Gefahrenpotenzial von Deepfakes Thema. Im kommenden Digital Services Act werden große Online-Plattformen mit mind. 45 Millionen Nutzern zur jährlichen Bewertung der von ihrer Plattform ausgehenden systemischen Risiken und ggf. zu wirksamen Gegenmaßnahmen verpflichtet. Hierzu zählen u.a. auch solche Risiken mit „tatsächlichen oder vorhersehbaren negativen Auswirkungen auf den zivilen Diskurs und die Wahlprozesse, und die öffentliche Sicherheit“. Hierunter dürften auch rechtsverletzende Deepfakes, insbesondere von Politikern, fallen. 

Begleitend zum Digital Services Act ist im Juni ein neuer Verhaltenskodex zur Bekämpfung von Desinformation beschlossen worden, in dem sich auch Plattformen nun zu weitergehenden Maßnahmen verpflichten. Zu den Unterzeichnern des Kodex gehören u.a. Meta, Google, Twitter, TikTok und Microsoft. Die Unterzeichner sehen „böswillige Deepfakes“ als „unzulässiges manipulatives Verhalten“ an und verpflichten sich insoweit, ihnen entgegenzuwirken und die eigenen Richtlinien anzupassen und entsprechend durchzusetzen.

Verstärktes Aufkommen von Deepfakes bedeutet verstärkten Einsatz der Betroffenen

Es ist davon auszugehen, dass künftig die Erstellung von Deepfakes auch für die breite Masse immer leichter möglich sein wird. Die Technologie schreitet unweigerlich voran. Daher dürften Deepfakes in Zukunft ebenso zunehmen wie der rechtliche Handlungsbedarf. Dies betrifft vor allem Personen, die in Deepfakes rechtsverletzend abgebildet werden, aber auch Inhaber von Rechten am verwendeten Material und Plattformen.

Die EU verschiebt ihren Fokus mittlerweile deutlich mehr auf die Plattformen und nimmt auch diese in die Verantwortung. Betroffene werden daher künftig noch bessere Möglichkeiten haben, sich gegen Rechtsverletzungen zur Wehr zu setzen, als bisher. Dabei ist auch nicht zu befürchten, dass die häufig vorgeschobene Berufung auf die Kunstfreiheit bei bewusst manipulativen und irreführenden Darstellungen insbesondere im politischen Bereich der effektiven Rechtsverfolgung im Wege stehen könnte.

*Gemeint sind Personen jeder Geschlechtsidentität. Um der leichteren Lesbarkeit willen wird im Beitrag die grammatikalisch männliche Form verwendet.

Tags: Deepfake TMC


Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.