Der Einsatz generativer KI-Systeme wird zukünftig durch die KI-VO reguliert.
Künstliche Intelligenz (KI) und maschinelles Lernen haben sich in den letzten Jahren rasant entwickelt. Generative KI-Modelle können Konversationen simulieren, Fragen beantworten und eigenständig neue Inhalte generieren und haben das Potenzial, den beruflichen Alltag von Bereichen wie Journalismus bis hin zu Rechtsberatung zu revolutionieren. Einsatz und Entwicklung generativer KI werden zukünftig durch die KI-Verordnung reguliert.
Die Auswirkungen der KI-Verordnung insbesondere auf generative KI sollen mit diesem und dem in unserer CMS Blog-Serie „Künstliche Intelligenz“ folgenden Beitrag näher untersucht werden.
Chancen und Herausforderungen generativer KI
Generative KI (Generative Artificial Intelligence) ist der Oberbegriff für eine Form der KI, die mit statistischen Methoden neue Inhalte wie digitale Bilder, Videos, Audios, Texte oder auch Softwarecodes auf Basis von Wahrscheinlichkeiten erzeugt. Basierend auf Techniken des maschinellen Lernens (Machine Learning) wird ein solches KI-System durch Algorithmen trainiert, die einen vorhandenen Datensatz analysieren und darin Verbindungen und Zusammenhänge identifizieren und das daraus resultierende sogenannte „Modell“ schließlich nutzen, um Entscheidungen oder Vorhersagen für die Produktion neuer Inhalte zu treffen. Neben der Text- und Inhaltserstellung haben generative KI-Systeme ein weites Anwendungspotenzial, das von Kundenservice, Portfoliomanagement, Musikkomposition, Schaffung von Kunstwerken, Bildbearbeitung, Forschung, Programmierung bis hin zu virtuellen Assistenten reicht.
Wie bei jeder neuen Technologie gibt es bei der Entwicklung und dem Einsatz von generativer KI aber auch Risiken. Die Qualität der von einer generativen KI erzeugten Inhalte und Ergebnisse hängt von der Qualität, dem Inhalt und der Menge der Datengrundlage ab, mit denen das KI-System trainiert wird. Deswegen verwundert es nicht, dass KI-Modelle zwar auf den ersten Blick richtig gute Ergebnisse etwa auf juristische Fragen liefern können, diese Antworten bei genauerer Hinsicht aber nichts mit dem deutschen Recht zu tun haben, falls der Trainingsdatensatz dieses nicht umfasst. Die produktive Nutzung von generativer KI setzt (abgesehen von einem genauen Prompt) also voraus, dass sie mit den richtigen und passenden Daten trainiert worden ist.
Die Verwendung von Datenmengen für das Training einer KI kann je nach Art und Herkunft der Daten grundrechtsrelevante Auswirkungen auf den Schutz von geistigem Eigentum, die Privatsphäre und den Schutz von persönlichen oder sensiblen Daten haben. Wird ein KI-Modell mit ungefilterten, frei aus dem Internet abrufbaren Daten trainiert, spiegeln sich in den von der generativen KI produzierten Inhalten auch die in den Datenmengen angelegten gesellschaftlichen Vorurteile wider – die von einer KI produzierten Inhalte können diskriminierend und rassistisch sein, wenn sie nicht gefiltert werden oder bei dem Training der KI nicht eingegriffen wird.
Regulierung in der EU durch die KI-Verordnung
Ethische und rechtliche Rahmenbedingungen für die Entwicklung und den Einsatz von KI soll innerhalb der Europäischen Union (EU) neben der Richtlinie über KI-Haftung die KI-Verordnung schaffen. Nach der Veröffentlichung des Vorschlags für eine KI-Verordnung (Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für KI (Gesetz über KI, COM(2021) 206 final, 2021/0106(COD)) durch die Kommission am 21. April 2021 wurde die KI-Verordnung im Gesetzgebungsprozess von den verschiedenen EU-Institutionen geprüft und diskutiert. Nachdem das Parlament und der Rat im Dezember 2023 eine politische Einigung erzielen konnten und am 13. März 2024 der finale Text durch das Parlament gebilligt wurde, wird erwartet, dass die endgültige Fassung Ende April/Anfang Mai 2024 durch das EU-Parlament angenommen wird.
Das Ziel der KI-Verordnung ist es, zum einen klare Regeln für den Umgang mit KI-gesteuerten Systemen aufzustellen, um Diskriminierung, Überwachung und andere potenziell schädliche Auswirkungen zu vermeiden, insbesondere im grundrechterelevanten Bereich. Gleichzeitig sollen zum anderen der Wettbewerb in der EU gefördert und die Position Europas im globalen KI-Wettbewerb gestärkt werden.
Anwendungsbereich der KI-Verordnung: Generative KI wird grundsätzlich erfasst
Der Anwendungsbereich der KI-Verordnung ist sowohl in sachlicher als auch personeller Hinsicht denkbar weit. Definiert und erfasst werden in der aktuellen Fassung KI-Systeme als maschinenbasierte Systeme, die so konzipiert sind, dass sie mit unterschiedlichen Graden an Autonomie operieren und für explizite oder implizite Ziele Ergebnisse wie Vorhersagen, Empfehlungen oder Entscheidungen erzeugen können, die die physische oder virtuelle Umgebung beeinflussen können (Art. 3 Nr. 1). Der personelle Anwendungsbereich der KI-Verordnung erstreckt sich nach Art. 2 auf:
- jegliche Anbieter (provider), die innerhalb der EU KI-Systeme in den Verkehr bringen oder in Betrieb nehmen oder die GPAI in Verkehr bringen – unabhängig davon, ob sie in der EU oder in einem Drittland niedergelassen sind
- alle in der EU niedergelassenen oder ansässigen Betreiber (deployer)
- Anbieter und Betreiber, die in einem Drittland niedergelassen oder ansässig sind, wenn das von dem KI-System hervorgebrachte Ergebnis (Output) innerhalb der EU genutzt wird
- Händler (distributor) und Einführer (importer) von KI-Systemen
- von außerhalb der EU niedergelassenen Anbietern Bevollmächtigte (authorised representatives)
- Hersteller von Produkten (product manufacturers), die KI-Systeme unter ihrem eigenen Namen oder ihrer eigenen Marke gemeinsam mit ihrem Produkt in Verkehr bringen oder in Betrieb nehmen
- in der EU ansässige Betroffene (affected persons), deren Gesundheit, Sicherheit oder Grundrechte durch die Nutzung eines KI-Systems erheblich beeinträchtigt werden
Die KI-Verordnung sieht Bereichsausnahmen für bestimmte KI-Systeme vor, die für das Militär, die Verteidigung oder für nationale Sicherheitszwecke eingesetzt werden. Ausgenommen sind auch KI-Systeme, die ausschließlich für wissenschaftliche Forschung oder Weiterentwicklung entwickelt und in Betrieb genommen werden. Auch Aktivitäten, die allein der Forschung, Tests oder der Entwicklung von KI-Systemen vor ihrem Angebot auf dem Markt oder ihrer Inbetriebnahme dienen, sollen ebenfalls nicht von der KI-Verordnung reguliert werden.
Generative KI-Systeme sowie ihre Anbieter, Betreiber, Händler, Einführer und Produkthersteller fallen daher grundsätzlich in den Anwendungsbereich der KI-Verordnung.
KI-Systeme und ihr Risikopotenzial: Der risikobasierte Ansatz der KI-Verordnung
Die KI-Verordnung kategorisiert KI-Systeme grundsätzlich nach ihrem Risikopotenzial für die Gesundheit, die Sicherheit und die Grundrechte natürlicher Personen:
- unannehmbares Risiko (verbotene Praktiken)
- hohes Risiko (Anforderungen für Hochrisiko-KI-Systeme und Pflichten für ihre Anbieter und andere Akteure)
- näher bestimmte KI-Systeme (Transparenzbestimmungen)
- ein geringes oder minimales Risiko (KI-Kompetenz, freiwillige Verhaltenskodizes)
Der aus dem Entwurf der Kommission in die finale Fassung übernommene risikobasierte Ansatz gilt unabhängig von bestimmten Charakteristiken von KI-Systemen, entscheidend ist ihre beabsichtigte Verwendung. Eine Einstufung generativer KI in eine der Risikokategorien kann nicht pauschal oder anhand der Funktionsweise vorgenommen werden. Vielmehr kommt es maßgeblich auf die konkrete Zweckbestimmung und auf die konkreten Anwendungsmodalitäten der Entwicklung oder des Einsatzes des generativen KI-Systems an.
Im Gesetzgebungsprozess kam jedoch aufgrund der rasanten Entwicklung und breiten Anwendung von generativer KI das Konzept der „foundation models″ hinzu, das in der finalen Fassung als „general-pupose AI″ (GPAI) bzw. KI-Modelle mit allgemeinem Verwendungszweck Niederschlag gefunden hat.
Definiert werden GPAI als KI-Systeme, die eine erhebliche Allgemeingültigkeit aufweisen und in der Lage sind, ein breites Spektrum unterschiedlicher Aufgaben kompetent auszuführen. einschließlich solcher Modelle, die unter Selbstüberwachung mit einer großen Datenmenge trainiert werden, unabhängig von der Art und Weise, wie die Modelle Inverkehr gebracht werden, und die in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden können. Ausgenommen sind Systeme, die für Forschungs-, Entwicklungs- oder Prototyping-Aktivitäten verwendet werden, bevor sie auf den Markt gebracht werden (Art. 3 Nr. 63). Als Beispiel werden große generative KI-Systeme genannt (Erwägungsgrund 99), wie etwa große Sprachmodelle. Für Anbieter von GPAI gelten bestimmte Pflichten, die, je nachdem, ob GPAI ein systemisches Risiko beinhaltet, umfangreicher werden.
Anbieter und Betreiber aller KI-Systeme sollen generell geeignete Maßnahmen treffen, um ausreichende KI-Kompetenz (AI literacy) im Hinblick auf ihre Arbeitnehmer und andere mit dem Betrieb und der Nutzung der KI-Systeme betraute Personen sicherzustellen (Art. 4). Dafür sind insbesondere technische Kenntnisse, Erfahrung, Ausbildung und die konkreten Anwendungsmodalitäten des KI-Systems relevant. Solche geeigneten Maßnahmen sind etwa die Unterweisung in grundlegenden Begriffen und Kenntnissen über KI-Systeme und ihre Funktionsweise, einschließlich der verschiedenen Arten von Produkten und Verwendungen sowie ihrer Risiken und Vorteile.
Die KI-Verordnung reguliert künftig auch generative KI
Generative KI wird grundsätzlich vom Anwendungsbereich der KI-Verordnung erfasst und bei ihrem Einsatz und ihrer Entwicklung müssen die allgemeinen Prinzipien der KI-Verordnung beachtet werden. Welche KI-Systeme als Verbotene Praktiken gar nicht zugelassen sind, welche Anforderungen außerhalb der Verbotenen Praktiken an KI-Systeme gestellt werden und welche Pflichten ihre Anbieter, Betreiber oder sonstige Beteiligte in der KI-Wertschöpfungskette treffen, hängt von der Klassifizierung der jeweiligen generativen KI anhand ihrer Zweckbestimmung und ihrer konkreten Anwendungsbereiche ab. Während KI-Systeme mit unannehmbarem Risiko ganz verboten werden, liegt der Fokus der Regulierung durch die KI-Verordnung auf Hochrisiko-KI-Systemen, deren Anbieter, Betreiber, Einführer und Händler umfangreiche Pflichten erfüllen müssen.
Auch vor der Rechtsberatung macht KI keinen Halt. Dies hat CMS bereits früh erkannt: Wie künstliche Intelligenz die Arbeit in Kanzleien verändert (cmshs-bloggt.de). Auf unserer Innovationen-Homepage und in unserem CMS-to-go-Podcast „KI für die Rechtsabteilung“ erhalten Sie weitere Informationen.
In unserem CMS-Blog halten wir Sie in unserer Blog-Serie „Künstliche Intelligenz“ fortlaufend mit aktuellen Beiträgen zu diesen Themen auf dem Laufenden. Sie können diese Blog-Serie über den RSS-Feed abonnieren und werden von uns über neue Beiträge benachrichtigt. Im Rahmen dieser Blog-Serie sind bereits Beiträge erschienen zu Themen wie: Künstliche Intelligenz und der Journalismus der Zukunft; Endspurt für die Regulierung von KI; Verbotene Praktiken und Hochrisiko-KI-Systeme; Hochrisiko-KI-Systeme als regulatorischer Schwerpunkt; Pflichten entlang der Wertschöpfungskette und für Anbieter von Basismodellen; Transparenzpflichten, Rechte für Betroffene, AI Office und Sanktionen sowie Robo Adviser. Weitere Informationen finden Sie zudem auf unserer Insight-Seite: Implikationen für Künstliche Intelligenz und Recht | CMS Deutschland.
Haben Sie Anregungen zu weiteren Themen rund um KI, die in unserer Blog-Serie „Künstliche Intelligenz“ nicht fehlen sollten? Schreiben Sie uns gerne über blog@cms-hs.com.
* Gemeint sind Personen jeder Geschlechtsidentität. Um der leichteren Lesbarkeit willen wird im Beitrag die grammatikalisch männliche Form verwendet.
