Der Journalismus wird durch den Einsatz Künstlicher Intelligenz grundlegend verändert. Dieser Umbruch hat – für viele unbemerkt – bereits begonnen.
Durch Künstliche Intelligenz (KI) erstellte Texte zu den neuesten Fußballergebnissen, Börsendaten oder zum aktuellen Wetter prägen bereits heute unseren Alltag, doch auch KI-basierte Radiosendungen oder Videobeiträge sind auf dem Vormarsch. Nach einem Bericht des Digital News Project der Oxford University und des Reuters Institute for the Study of Journalism sehen 69 % der befragten Entscheidungsträger in Medienunternehmen KI als den wichtigsten Wegbereiter für Innovation im Journalismus in den nächsten Jahren.
KI ist bereits heute ein unverzichtbares Werkzeug im Mediensektor
„Hinter den Kulissen″ kommt dem Einsatz von KI in Medienhäusern schon heute eine große Bedeutung zu. So ist das Monitoring, d.h. das Aufspüren von relevanten Ereignissen und Entwicklungen, ein zentraler Anwendungsbereich von KI im Journalismus. Denn Algorithmen sind in der Lage, das gesamte Internet in Echtzeit zu durchforsten und zu erkennen, wenn es Auffälligkeiten in den Datensätzen gibt. Werden etwa an einem bestimmten Ort besonders viele Tweets auf einmal abgesetzt, ist dies häufig ein Hinweis darauf, dass dort ein besonderes Ereignis stattfindet oder ein Unglücksfall passiert sein könnte. Zudem kann KI durch Massenauswertung von sozialen Medien meist besser als menschliche Redakteure erkennen, welche Themen gerade die meisten Klicks bekommen.
Auch im Bereich des investigativen Journalismus wird KI immer gefragter. So kam etwa bei der aufwendigen Recherche des NDR zu Steuerschlupflöchern ein Algorithmus zum Einsatz, der über elf Millionen Dokumente durchsuchte. Gleiches gilt für andere Enthüllungen wie den Panama Papers oder Open Lux, einer umfangreichen Recherchearbeit zu Steuervermeidung in Europa. Durch den Einsatz von KI können im Bereich des investigativen Journalismus enorme Datenmengen in einem Umfang gesichtet werden, den Journalisten ohne technische Hilfe niemals erfassen könnten.
Darüber hinaus wird KI auch für andere Hilfstätigkeiten wie etwa das Transkribieren von Audioaufnahmen oder die Überwachung von Kommentarbereichen eingesetzt und führt so zu erheblichen Zeitersparnissen für die Redakteure.
Synthetische Medien als Teil der Zukunft des Journalismus
Die Einsatzmöglichkeiten für KI im Journalismus gehen weit über einen bloßen Einsatz „im Maschinenraum″ hinaus und werden von Medienhäusern zunehmend getestet. Zuletzt hat der Innovation Hub des WDR in seinem Zukunftsreport mögliche Szenarien vorgestellt, wie synthetische Medien den Journalismus künftig prägen könnten.
Unter dem Begriff der „synthetischen Medien″ sind sämtliche Medien wie etwa Video, Bild und Audio zu verstehen, die mit Technologien aus dem Bereich der KI verändert oder sogar vollständig erzeugt werden.
KI ist als „Content-Maschine″ weiter auf dem Vormarsch
In vielen Redaktionen wird ein Großteil der Börsen- und Sportnachrichten sowie Wetter- und Verkehrsberichte bereits heute nicht mehr von Journalisten, sondern von KI-Systemen verfasst. So ließ etwa die amerikanische Wirtschaftsnachrichtenagentur Bloomberg schon vor zwei Jahren etwa ein Drittel ihrer Bilanzberichte von KI schreiben. Aber auch in Deutschland setzen beim Verfassen einfach gelagerter Artikel immer mehr Medienhäuser auf den Einsatz von KI. So kann „per Knopfdruck″ mit geringem Aufwand sehr viel Content generiert und in verschiedenen Sprachen zur Verfügung gestellt werden.
Allerdings dürften die Themenbereiche für sogenannten „Robojournalismus″, also Texte, die gänzlich ohne menschliche Hilfe von KI-Anwendungen verfasst werden, begrenzt sein. In der Regel erfolgt der Einsatz von KI ausschließlich in „zahlenbasierten″ Bereichen wie etwa bei Börsenmeldungen und Wahlergebnissen. Auf diese Weise können jedoch Redakteure entlastet werden, um sich verstärkt auf ihre kreative Arbeit wie etwa das Schreiben von Theater-Rezensionen oder Sozial-Reportagen konzentrieren und so die Qualität der Inhalte des jeweiligen Medienhauses erhöhen zu können.
Digitale Replikas als Nachrichtensprecher von morgen?
Ein weiteres zentrales Einsatzfeld von KI im Bereich des Journalismus könnten schon bald digitale Replikas von Nachrichtensprechern, Radiomoderatoren etc. werden. Zwar wird die KI „Text-to-Speech″ bereits seit längerem genutzt. Neu ist aber, dass mittlerweile auch bekannte Stimmen synthetisiert werden können. Da hier jedoch eine erhebliche Missbrauchsgefahr besteht, müssen an die Nutzung entsprechender KI hohe ethische Anforderungen gestellt werden. So hat etwa Microsoft einen ethischen Beirat eingerichtet, der entschieden hat, dass synthetische Stimmen keine Nachrichten sprechen und auch politische Personen nicht synthetisiert werden dürfen. Der Stand der Technik ist hier aktuell schon so weit, dass bereits in naher Zukunft Innovationen wie etwa personalisiertes Radio durch den Einsatz von KI möglich sein werden. In China ist diese Technologie sogar schon seit geraumer Zeit Realität: Bereits im November 2018 stellte die chinesische Nachrichtenagentur Xinhua den weltweit ersten durch KI generierten Nachrichtensprecher vor.
Allerdings ist der Einsatz von digitalen Replikas nicht unumstritten. Denn eine Kehrseite der Möglichkeit, Menschen digitalisieren zu können ist, dass man dem, was man sieht, häufig nicht mehr trauen kann. Sogenannte Deepfakes, also realistisch wirkende Videos, Bilder und Tonaufnahmen, die durch Techniken der KI abgeändert oder verfälscht wurden, werden zunehmend zu einem Sicherheitsproblem. Das ist insbesondere dann der Fall, wenn reale Personen in falsche Kontexte gebracht werden. Deepfakes haben daher bei vielen Menschen zu Skepsis im Hinblick auf den Einsatz von KI im Medienbereich geführt.
Aus Angst vor Manipulation und Fake News besteht daher oftmals ein gewisses Misstrauen gegenüber sämtlichen synthetischen Inhalten. Insbesondere im Bereich des öffentlich-rechtlichen Journalismus wird überlegt, künftig Avatare einzusetzen, um eine klare Trennung zwischen normal gefilmten und synthetisierten Personen zu vollziehen. So könnten z.B. ausschließlich existierende, reale Personen die Live-Übertragung von Nachrichten übernehmen, während für andere, weniger sensible Inhalte „erfundene“, künstliche Avatare eingesetzt und entsprechend gekennzeichnet werden. Durch diese Abgrenzung soll das Vertrauen in die medialen Inhalte gestärkt werden.
Der Einsatz von KI im Bereich des Journalismus führt zu neuen rechtlichen Herausforderungen
Die genannten Beispiele zeigen bereits, dass die Einsatzmöglichkeiten von KI für Medienhäuser zahlreich und vielfältig sind. Aus rechtlicher Perspektive ist der Einsatz von KI im Bereich des Journalismus allerdings nicht unbedenklich. So gibt es eine Vielzahl von Regelungsbereichen, die dabei zu beachten sind.
- Anforderungen der geplanten KI-Verordnung
Der von der EU-Kommission vorgelegte Entwurf einer Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-VO-E) sieht in Art. 52 Abs. 1 und 3 KI-VO-E für synthetische Medieninhalte, die durch KI erzeugt oder verändert wurden (insbesondere Deepfakes) eine Transparenzpflicht vor. Wird danach ein KI-System eingesetzt, um Bild-, Audio- oder Video-Inhalte zu erzeugen oder zu manipulieren, so dass diese von authentischen Inhalten kaum zu unterscheiden sind, soll – abgesehen von legitimen Zwecken (wie Strafverfolgung, Meinungsfreiheit) – die Pflicht zur Offenlegung der Tatsache vorgeschrieben werden, dass der Inhalt durch automatisierte Mittel erzeugt wurde. Auf diese Weise soll sichergestellt werden, dass Nutzer bewusst entscheiden können, ob sie die Anwendung weiter nutzen wollen oder nicht. Bei Verstößen gegen diese Transparenzpflicht oder sonstige Regelungen der geplanten KI-VO könnten künftig erhebliche Bußgelder von bis zu EUR 20 Mio. bzw. 4 % des gesamten weltweiten Jahresumsatzes verhängt werden.
- Urheberrechtliche Anforderungen
Grundsätzlich ist nur menschliches Schaffen urheberrechtlich geschützt. Beim Einsatz von KI als Werkzeug findet das Urheberrecht mithin so lange Anwendung, wie für die journalistisch tätige natürliche Person ein gewisser Gestaltungspielraum besteht und ein „persönlicher, geistiger Schaffensprozess″ zum Ausdruck kommt (vgl. § 2 Abs. 2 UrhG). Wird KI von Medienhäusern daher lediglich als technisches Hilfsmittel eingesetzt, ist der jeweilige Redakteur als Urheber der journalistischen Inhalte zu betrachten. Wenn allerdings die KI selbstständig und automatisiert arbeitet, entsteht kein urheberrechtlich geschütztes Werk.
Auch das Europäische Parlament weist in seiner Entschließung zu Rechten des geistigen Eigentums für die Entwicklung von Technologien der künstlichen Intelligenz aus Oktober 2020 auf den Unterschied zwischen KI-unterstützten menschlichen Schöpfungen und KI-generierten Schöpfungen hin und betont, dass letztere neue regulatorische Herausforderungen für das Urheberrecht mit sich bringen. In Fällen, in denen KI nur als Werkzeug zur Unterstützung eines Urhebers im Schöpfungsprozess eingesetzt wird, soll der derzeitige Rechtsrahmen für geistiges Eigentum danach weiterhin anwendbar sein. Werke, die von KI-Systemen autonom produziert werden, sollen dagegen aufgrund des Fehlens eines menschlichen Urhebers auch künftig grundsätzlich nicht urheberrechtlich geschützt werden. Gleichzeitig spricht sich das Europäische Parlament allerdings dafür aus, dass zumindest bestimmte KI-generierte Werke geschützt werden sollen, um Investitionen in KI zu fördern. Konkrete Vorschläge oder nähere Ausführungen zur Reichweite entsprechender Regelungen existieren bislang aber noch nicht. Die rechtspolitische Diskussion darüber, ob hier ein neues Leistungsschutzrecht geschaffen werden sollte, steht insofern noch am Anfang.
- Medienrechtliche Anforderungen
Im Hinblick auf das Medienrecht müssen zumindest solche Inhalte, die gemischt menschlich und automatisch generiert wurden, den medienrechtlichen Sorgfaltspflichten im Hinblick auf die Informationsverarbeitung genügen. Gemäß § 19 Abs. 1 MStV und den Landespressegesetzen müssen Telemedien mit journalistisch-redaktionell gestalteten Angeboten die Einhaltung der pressemäßigen Sorgfalt, also insbesondere die individuelle Überprüfung der Nachrichten vor ihrer Verbreitung mit der nach den Umständen gebotenen Sorgfalt auf Inhalt, Herkunft und Wahrheit gewährleisten. Werden diese Sorgfaltspflichten nicht eingehalten, drohen Unterlassungs-, Widerrufs- und Schadensersatzansprüche sowie Gegendarstellungsansprüche nach § 20 MStV. Sofern die Erstellung von Inhalten allerdings vollautomatisiert und gänzlich ohne menschliche Beteiligung erfolgt, passen die bestehenden medien- und presserechtlichen Vorschriften nicht ohne Weiteres und können deshalb keine uneingeschränkte Anwendung finden. Insbesondere können rein maschinenbasierte KI-Systeme die stets vorausgesetzte Interessenabwägung im konkreten Einzelfall schon aus technischen Gründen nicht leisten.
- Datenschutzrechtliche Anforderungen
Der Einsatz von KI im Journalismus führt schließlich zu einem massenhaften Datensammeln. Die Datenaggregierung und -aufbereitung geht regelmäßig mit einer automatisierten Auslesung und Verarbeitung von personenbezogenen Daten i.S.d. DSGVO einher (sog. Web-Scraping). Für entsprechende Datenverarbeitungen bedarf es jedoch einer Rechtsgrundlage. Die Tatsache, dass personenbezogene Daten öffentlich zugänglich sind, bedeutet für sich genommen noch nicht, dass die betroffenen Personen auch konkludent in die Verarbeitung durch Web-Scraping einwilligen. Da die Einholung einer ausdrücklichen Einwilligung oder der Abschluss eines Vertrags in den meisten Fällen nicht praktikabel sein dürfte, kommen als Rechtsgrundlage vor allem Art. 6 Abs. 1 lit. f) DSGVO sowie das in Art. 85 Abs. 2 DSGVO i.V.m. § 23 MStV bzw. den jeweiligen Landespressegesetzen normierte Medienprivileg in Betracht.
Soweit das Medienprivileg Anwendung findet, muss für Verarbeitungen „zu journalistischen Zwecken″ keine Einwilligung oder sonstige Rechtsgrundlage gemäß Art. 6 DSGVO vorhanden sein. Ob das Medienprivileg auch für den Einsatz von KI gilt, ist bislang nicht abschließend geklärt. Zumindest dann, wenn eine KI regelmäßig Beiträge zu Angelegenheiten von öffentlichem Interesse an einen unbestimmten Personenkreis verbreitet und dabei gewisse journalistische Mindeststandards beachtet, lässt sich wohl argumentieren, dass auch KI vom Medienprivileg erfasst sein könnte. Selbst wenn man dies anders sehen sollte, dürften die Medienhäuser jedenfalls auch ein berechtigtes Interesse gemäß Art. 6 Abs. 1 lit. f) DSGVO an der Ausübung ihrer Medien-, Presse- und Berufsfreiheit haben. Die Eingriffsintensität beim Web-Scraping ist zudem vergleichsweise gering, da die Daten lediglich kurzfristig gespeichert werden. Außerdem dürfte nach der vernünftigen Erwartungshaltung der betroffenen Personen mit einer Berichterstattung bzw. Weiterverarbeitung zu rechnen sein, wenn diese Informationen öffentlich im Internet publizieren. Die datenschutzrechtlichen Vorschriften stehen einer automatisierten Datenverarbeitung damit nicht per se entgegen. Allerdings muss zumindest dann, wenn das Medienprivileg nicht greifen sollte, für jeden Einzelfall eine umfassende Interessenabwägung vorgenommen werden, welche die Besonderheiten der konkreten Verarbeitung berücksichtigt.
Der Gesetzgeber ist aufgerufen, für Rechtssicherheit beim Einsatz von KI im Journalismus zu sorgen
Es wird deutlich, dass die bestehenden Regelungen in den Bereichen des Urheber-, Medien- und Datenschutzrechts noch nicht auf den Einsatz von KI zugeschnitten sind und hinsichtlich der Anwendbarkeit der Vorschriften häufig noch erhebliche Unsicherheiten bestehen. Darüber hinaus sind viele praktische Fragen bislang noch gänzlich ungeklärt. Wer soll etwa zur Verantwortung gezogen werden, wenn die KI irrt und Falschmeldungen in die Welt setzt? Wie weit darf der Einsatz von synthetischen Medien gehen? Was darf man Menschen in den Mund legen und was nicht? Und wie muss man nach dem Tod einer Person eigentlich mit deren digitaler Replika umgehen? Um für mehr Rechtssicherheit beim Einsatz von KI im Mediensektor zu sorgen und den Digitalisierungsprozess in diesem Bereich weiter zu unterstützen, ist der Gesetzgeber angesichts der rasanten Entwicklungen der letzten Jahre aufgefordert, rechtliche Anpassungen und Ergänzungen vorzunehmen.
Ein erster Schritt in diese Richtung könnte die Entschließung des Europäischen Parlaments vom 19. Mai 2021 zu künstlicher Intelligenz in der Bildung, der Kultur und dem audiovisuellen Bereich sein. Erfreulich ist, dass auf EU-Ebene erkannt wurde, dass ergänzend zu den Regelungen der geplanten KI-VO weitere sektorspezifische Regelungen erforderlich sind. In einem nächsten Schritt müssten nun jedoch die recht pauschalen Forderungen des Europäischen Parlaments konkretisiert werden. Anhaltspunkte dafür, dass die Kommission an einem dem KI-VO-E vergleichbaren Regelwerk arbeitet, gibt es derzeit allerdings noch nicht.
