Nachdem Rat und Parlament im Dezember des vergangenen Jahres eine politische Einigung erzielen konnten, hat nun das Parlament über die KI-VO abgestimmt.
Im Dezember 2023 erzielten der EU-Rat und das EU-Parlament nach tagelangen Verhandlungen über den Entwurf der Verordnung für Künstliche Intelligenz (KI) die erwartete politische Einigung. Mit Pressemitteilung vom 13. März 2024 informierte das EU-Parlament nun über die erfolgte Abstimmung und gab bekannt, die KI-Verordnung verabschiedet zu haben. Das Regelwerk erhielt 523 Ja- und 46 Nein-Stimmen bei 49 Enthaltungen und wurde somit durch die Abgeordneten* gebilligt. Mit der KI-Verordnung möchte die EU zum einen Innovationen in diesem Bereich fördern und zum anderen vor Risiken schützen, die diese Technologie mit sich bringt.
Die KI-Verordnung charakterisiert ihr risikobasierter und abgestufter Ansatz sowie die Transparenzanforderungen. Es bleibt dabei, dass Hochrisiko-Systeme besondere Pflichten treffen, da diese eine Gefahr für Rechtsgüter wie z.B. Gesundheit, Sicherheit und Umwelt oder auch die Demokratie und den Rechtsstaat darstellen können. Zu den verbotenen Anwendungen sollen weiterhin KI-Systeme zählen, die zur Emotionserkennung am Arbeitsplatz und in Schulen, dem Social Scoring, teilweise auch Predictive Policing, der Manipulation menschlichen Verhaltens oder dem Ausnutzen menschlicher Schwachstellen dienen sowie auf sensiblen Merkmalen basierende biometrische Kategorisierungssysteme, das ungezielte Gesichtsbilder-Scraping im Internet sowie sog. Closed-Circuit Television-Aufnahmen mit dem Ziel der strategischen Erstellung einer Gesichtserkennungsdatenbank. Die KI-Verordnung sieht jedoch nicht nur Verbote, sondern auch Maßnahmen zur Förderung von Innovationen, Start-ups und KMU vor. Ein KI-Büro (sog. AI Office) wurde bereits am 21. Februar 2024 bei der EU-Kommission eingerichtet und soll die Expertise zu dem Thema in der EU bündeln sowie eine tragende Rolle bei der Umsetzung und Überwachung der Vorschriften der KI-Verordnung übernehmen. Darüber hinaus wird es auch einen KI-Verwaltungsrat (AI Board), zusammengesetzt aus einem Vertreter pro Mitgliedstaat, geben.
Das mediale Interesse an der KI-Verordnung ist groß. Außerdem haben sich u. a. bereits einige der deutschen Datenschutzbehörden zu dem aktuellen Stand der KI-Verordnung geäußert. Zum Beispiel begrüßte der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) die KI-Verordnung als Ergänzung zur Europäischen Datenschutz-Grundverordnung (DSGVO) und betonte insb. den Bezug, den Hochrisiko-KI-Systeme zum Datenschutz aufweisen. Kritik äußert der BfDI hinsichtlich des Fehlens eines ausdrücklichen Verbots biometrischer Fernerkennung im öffentlichen Raum. Hierzu fordert der BfDI die Bundesregierung auf, für strengere Verbote auf nationaler Ebene von Öffnungsklauseln Gebrauch zu machen (zudem nimmt der BfDI in seinem Tätigkeitsbericht für das Jahr 2023 Stellung zur KI-Verordnung). Daneben weist die Landesbeauftragte für Datenschutz und Informationsfreiheit Nordrhein-Westfalen (LDI NRW) auf die Schwierigkeiten bei der Feststellung des Personenbezugs von Daten hin, die von einer KI verwendet werden. Die LDI NRW fordert diesbzgl. eine sorgfältige Prüfung von KI-Anwendungen sowohl nach der KI-Verordnung als auch nach der DSGVO. In unserem Blog haben wir bereits einen Blick auf das Thema KI und Datenschutz geworfen: KI-Nutzung und datenschutzrechtliche Verantwortlichkeit.
Nur noch wenige Schritte bis zum Inkrafttreten der KI-Verordnung in der EU
Das Verfahren rund um die Europäische KI-Verordnung ist nicht das Ergebnis der letzten Monate, in denen diese Technologie besondere Aufmerksamkeit erfahren hat, die vielmehr ist als ein bloßer Hype. Bereits im Jahr 2021 hatte die EU-Kommission den Rechtsrahmen für KI vorgeschlagen und es war absehbar, dass KI Einzug in viele Bereiche halten wird. Doch trotz der jahrelangen Arbeit an der KI-Verordnung: Die Billigung durch das EU-Parlament ist noch nicht der endgültige Abschluss des Verfahrens, denn ein paar Schritte bis zum Inkrafttreten der KI-Verordnung stehen noch aus. Zum einen findet eine abschließende rechts- und sprachwissenschaftliche Prüfung des Verordnungstextes statt. Zum anderen muss nach dem Parlament auch der Rat die Verordnung förmlich billigen. Ist dies erfolgt, wird der Text im Amtsblatt der EU veröffentlicht und tritt 20 Tage nach dieser Veröffentlichung in Kraft. Der Pressemitteilung des EU-Parlaments vom 13. März 2024 zufolge soll das Verfahren noch in dieser Legislaturperiode, d.h. bis zu der im Juni diesen Jahres anstehenden Europawahl, abgeschlossen werden. Es wird erwartet, dass der endgültige Text Ende April/Anfang Mai 2024 durch das EU-Parlament angenommen wird, allerdings steht hierzu ein genaues Datum noch nicht fest.
Vom Inkrafttreten bis zur Anwendbarkeit: Unternehmen sollten sich auf die neuen Pflichten aus der KI-Verordnung vorbereiten
Nach dem Inkrafttreten bleibt den Adressaten der KI-Verordnung eine Übergangszeit von 24 Monaten für die Umsetzung der neuen Regelungen, wobei für einige Ausnahmen eine frühere oder spätere Anwendbarkeit vorgesehen ist. So sollen beispielsweise für die Anwendbarkeit der Pflichten für Hochrisiko-Systeme längere Fristen und für die Anwendbarkeit der Regelungen zu verbotenen Praktiken, der allgemeinen KI-Vorschriften und Governance sowie für die Verhaltenskodizies kürzere Fristen gelten.
In unserem CMS-Blog halten wir Sie mit unserer Blog-Serie „Künstliche Intelligenz“ fortlaufend zu diesem Thema auf dem Laufenden. Sie können diese Blog-Serie über den RSS-Feed abonnieren und werden von uns über neue Beiträge benachrichtigt. Im Rahmen dieser Blog-Serie sind bereits Beiträge erschienen zu Themen wie: Mithilfe Künstlicher Intelligenz plötzlich Urheber?; Robo Advisor als Zukunft der Geldanlage; Künstliche Intelligenz und der Journalismus der Zukunft; Wettbewerbsrechtliche Zulässigkeit von KI-gestützter Werbung. Sehen Sie zudem gern: Eigene KI-Sprachmodelle von Unternehmen (cms.law).
Haben Sie Anregungen zu weiteren Themen rund um KI, die in unserer Blog-Serie „Künstliche Intelligenz“ nicht fehlen sollten? Schreiben Sie uns gerne über blog@cms-hs.com.
Unseren englischsprachigen Ausblick auf die KI-Verordnung finden Sie hier: Looking ahead to the EU AI Act (cms.law).
*Gemeint sind Personen jeder Geschlechtsidentität. Um der leichteren Lesbarkeit willen wird im Beitrag die grammatikalisch männliche Form verwendet.
