Die EU Kommission skizziert den künftigen Rahmen für die Nutzung und Anwendung von Künstlicher Intelligenz. Strengere Vorgaben zeichnen sich ab.
Künstliche Intelligenz (KI) hat inzwischen fast alle Lebensbereiche erreicht: Mobilität, Handel, Gesundheit – um nur einige zu nennen. Die EU Kommission hat nun in einem umfangreichen Weißbuch ihre Vision für die Zukunft von KI und deren Rechtsrahmen zusammengefasst.
„Künstliche Intelligenz muss den Menschen dienen, ihren Rechten folgen″, so Kommissionspräsidentin von der Leyen. Fernziel ist die Schaffung eines Regulierungsrahmens, die den Besonderheiten der KI Rechnung trägt. Perspektivisch wird dies erhebliche Auswirkungen auf in diesem Bereich tätige Unternehmen haben.
Hintergrund: Nutzen und Gefahren von Künstlicher Intelligenz werden im Weißbuch beachtet
Mit dem Weißbuch legt die Europäische Kommission ein Konzept vor, das einerseits die Nutzung von KI fördern, andererseits die mit der Technologie einhergehenden Gefahren eindämmen soll.
Das Weißbuch bildet eine Säule der künftigen Digitalstrategie der Kommission. Aus ihrer Sicht ist es zentral, Vertrauen in die Möglichkeiten von KI zu schaffen. Als ein wichtiges Element sieht sie einen auf die Besonderheiten der KI abgestimmten Regulierungsrahmen. Leitideen des Weißbuchs sind die Schaffung von Ökosystemen für Exzellenz und Vertrauen.
Ein Ökosystem für Exzellenz
Mit dem Ökosystem für Exzellenz umschreibt die Kommission einen politischen Rahmen zur Förderung von KI. Die Kommission möchte Ressourcen mobilisieren und vor allem kleinere und mittlere Unternehmen fördern.
Auch auf internationaler Ebene sollen Kooperationen ausgebaut und Netzwerke zwischen Forschungszentren sowie Universitäten erweitert werden. Die Anstrengungen sollten sich auf Bereiche konzentrieren, in denen Europa ohnehin erhebliches Potenzial habe. Dazu gehöre auch das Gesundheitswesen. Mit der Einführung von KI-gestützten Produkten und Dienstleistungen im öffentlichen Sektor möchte die Kommission schnellstmöglich beginnen. Dafür strebt sie ein Programm zur Implementierung von KI an – mit vorrangiger Berücksichtigung des Gesundheitswesens. Da ohne Daten eine Entwicklung von KI nicht möglich sei, müsse der Zugang zu Daten und die verantwortungsvolle Datenverwaltung gefördert werden.
Ein Ökosystem für Vertrauen
Mit der Schaffung eines Ökosystems des Vertrauens möchte die Kommission Sorgen der Bürger vor den Risiken von KI entgegenwirken. Das könne die Entwicklung von entsprechenden Technologien ausbremsen. Die perspektivische Schaffung eines europäischen Regulierungsrahmen für KI soll hier helfen.
Die größten Risiken im Zusammenhang mit der Nutzung von KI beträfen den Schutz von Grundrechten (Datenschutz. Privatsphäre, Nichtdiskriminierung) sowie Fragen der Sicherheit und Haftung. Nach Darstellung der Kommission werden Bürger vermehrt von Maßnahmen und Entscheidungen von Systemen künstlicher Intelligenz betroffen. Diese fielen teils autonom, intransparent und komplex aus. Das erschwere eine Durchsetzung von bestehenden EU-Rechtsvorschriften zum Schutz der Grundrechte.
Überdies könne KI auch zur Überwachung und Analyse eingesetzt werden, was die Privatsphäre gefährde. Auch für Diskriminierung durch KI bestehe ein besonderes Risiko, da ein Mechanismus der sozialen Kontrolle fehle. KI-Technologien brächten zudem neue Sicherheitsrisiken und Haftungsfragen mit sich. All dem müsse mit klaren Regelungen begegnet werden.
Anpassung des Rechtsrahmens: Risikobasierter Ansatz
Nach Auffassung der Europäischen Kommission sollten bestehende europäische Regelungen an KI und deren Wirkungen angepasst werden. Als Kernherausforderungen identifiziert sie veränderliche Funktionen von KI-Systemen innerhalb ihres Lebenszyklus, Unsicherheiten mit Blick auf Verantwortlichkeiten innerhalb der Lieferkette und Änderung von Sicherheitskonzepten.
In einem ersten Schritt möchte die Kommission die in verschiedenen Sektoren bestehenden Vorschriften, wie etwa im Gesundheitsbereich unter anderem das Medizinprodukterecht, das Produkthaftungsrecht und das Datenschutzrecht, weiter anwenden. Dies soll in einem zweiten Schritt aber durch weitere Regelungen flankiert werden, die die neuen Herausforderungen durch KI reflektieren. Dabei müsse ein neuer rechtlicher Rahmen aber verhältnismäßig bleiben und nicht zu Überregulierung führen. Um dieses Gleichgewicht zu erreichen, favorisiert die Kommission einen risikobasierten Ansatz. Neue, erweiterte Regelungen sollen primär für KI mit hohem Risiko gelten.
Bei der Einstufung einer KI-Anwendung als Anwendung mit hohem Risiko soll nach Meinung der Kommission berücksichtigt werden, was auf dem Spiel steht. Dabei sei zu prüfen, ob der Sektor und die beabsichtigte Verwendung erhebliche Risiken bergen, insbesondere unter den Gesichtspunkten Sicherheit, Verbraucherrechte und Grundrechte.
Als Sektorenbeispiele nennt das Weißbuch Gesundheitswesen, Verkehr, Energie sowie Teile des öffentlichen Sektors. Auf der zweiten Stufe sei zu fragen, ob die KI-Anwendung in dem betreffenden Sektor so eingesetzt werde, dass mit erheblichen Risiken zu rechnen sei. Grund für dieses Kriterium ist, dass nicht jede Nutzung von KI in den ausgewählten Sektoren notwendigerweise erhebliche Risiken birgt.
So könne das Gesundheitswesen im Allgemeinen zwar tatsächlich ein relevanter Sektor sein, jedoch dürfte ein Fehler in einem Terminvereinbarungssystem eines Krankenhauses in der Regel keine so erheblichen Risiken mit sich bringen, dass ein gesetzgeberisches Eingreifen gerechtfertigt wäre. Umgekehrt könne es aber auch Ausnahmefälle geben, in denen aufgrund der immanenten Risiken der Einsatz von KI-Anwendungen für bestimmte Zwecke grundsätzlich – also unabhängig von dem betreffenden Sektor – als hochriskant einzustufen sei. Dies sei beispielsweise der Einsatz von KI beim Recruiting in Unternehmen, was Risiken im Hinblick auf das Diskriminierungsverbot berge, oder der Einsatz von KI für Zwecke der biometrischen Fernidentifikation (Gesichtserkennung).
Höhere Anforderungen: Konformitätsbewertung
Bei der Ausgestaltung des künftigen Rechtsrahmens für KI wird zu entscheiden sein, welche Arten verbindlicher rechtlicher Anforderungen den einschlägigen Akteuren aufzuerlegen sind. Nach dem Vorschlag der Kommission könnten sich die Anforderungen an KI-Anwendungen mit hohem Risiko auf die folgenden Schlüsselmerkmale beziehen:
- Trainingsdaten
- Aufbewahrung von Daten und Aufzeichnungen
- Vorzulegende Informationen
- Robustheit und Genauigkeit
- Menschliche Aufsicht
- besondere Anforderungen an bestimmte KI-Anwendungen, z. B. Anwendungen für die biometrische Fernidentifikation.
Für KI-Anwendungen mit hohem Risiko sei eine objektive, vorab vorzunehmende Konformitätsbewertung erforderlich. Diese solle Verfahren für die Prüfung, Inspektion oder Zertifizierung umfassen, etwa zur Überprüfung der Algorithmen oder die in der Entwicklungsphase verwendeten Datensätze. Die Bewertung kann nach Vorstellung der Kommission Teil der Konformitätsbewertungsmechanismen sein, die bereits für eine große Zahl von Produkten existieren, die auf dem EU-Binnenmarkt in Verkehr gebracht werden sollen – etwa im Bereich der Medizinprodukte. Aufgrund der Lernfähigkeit von KI müssten Bewertungen möglicherweise auch wiederholt stattfinden.
Darüber hinaus sollten sowohl für KI-Anwendungen mit hohem Risiko als auch für andere KI-Anwendungen wirksame Rechtsbehelfe für Parteien vorgesehen werden, die von negativen Auswirkungen von KI-Systemen betroffen sind. Der damit angerissene haftungsrechtliche Rahmen wird im Weißbuch nicht weiter ausgeführt. Ihn behandelt ein – ebenfalls lesenswerter – Bericht der Kommission über den Sicherheits- und Haftungsrahmen. Dieser enthält eine detaillierte Analyse des geltenden Rechtsrahmens, macht eine Reihe von Lücken aus und enthält teilweise schon recht konkrete Vorschläge für eine Anpassung des Rechtsrahmens.
Fazit: Weißbuch als Schritt hin zu einem europäischen KI-Konzept
Mit dem Weißbuch „Zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen“ und dem begleitenden Bericht über den Sicherheits- und Haftungsrahmen leitet die Kommission einen breit angelegten Konsultationsprozess ein.
Im Kern geht es um nicht weniger als die Erarbeitung von Vorschlägen für ein europäisches KI-Konzept. Dazu gehören neben politischen Mitteln auch und vor allem Vorschläge für Kernelemente eines künftigen Rechtsrahmens. Selbst wenn es auf den ersten Blick noch eher vage und aus Praxissicht wenig greifbar erscheint: Angesichts der rasanten Verbreitung von KI und der stetig zunehmenden Bedeutung dürfte sich auch der Ruf nach einer effektiven Regulierung schnell verstärken.
Kommissarin Margrethe Vestager formuliert es so:
Wir gehen davon aus, dass es einen Ruf nach einer Regulierung der risikoreichen Aspekte dieser Technologien geben wird.
Man darf gespannt sein, in welche Richtung sich die Diskussion weiterentwickelt und welche konkreten Vorschläge folgen werden.
