28. Mai 2024
KI-Governance
Künstliche Intelligenz

Viel hilft viel (?): Die KI-Governance Struktur nach der KI-VO 

Neben dem zentralen EU AI Office werden zur Umsetzung der KI-VO zahlreiche weitere Einrichtungen auf europäischer und nationaler Ebene gegründet. 

Am 21. Mai 2024 hat der Rat der Europäischen Union die „Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz“ (KI-VO) verabschiedet. Nachdem das Europäische Parlament den Entwurf am 13. März 2024 angenommen hat, ist die KI-VO nun formell verabschiedet worden. Nach der Unterzeichnung durch die Präsidenten des Europäischen Parlaments und des Rates wird die Verordnung im Amtsblatt der EU veröffentlicht und tritt zwanzig Tage nach ihrer Veröffentlichung in Kraft. Daher ist davon auszugehen, dass die KI-VO im Laufe des Sommer 2024 in Kraft treten wird.

Als europäische Verordnung wird die KI-VO unmittelbar in allen 27 Mitgliedstaaten gelten. Um eine einheitliche und koordinierte Um- und Durchsetzung der KI-VO zu gewährleisten, sieht die KI-VO in Kapitel VII die Schaffung eines umfassenden und mehrstufigen Governance-Rahmens vor. Auf europäischer Ebene werden hierfür – neben dem zentralen und für die Durchsetzung der GPAI-Bestimmungen zuständigen EU AI Office – drei weitere Stellen geschaffen: 

  • das Europäische Gremium für Künstliche Intelligenz („KI-Gremium“, Artikel 65 KI-VO)
  • das Beratungsforum (Artikel 67 KI-VO) und 
  • das wissenschaftliche Gremium unabhängiger Sachverständiger („wissenschaftliche Gremium“, Artikel 68 KI-VO). 

Auf nationaler Ebene sind die Mitgliedstaaten bei der Ausgestaltung des KI-Governance-Rahmens verhältnismäßig flexibel. Die KI-VO sieht lediglich die Benennung von (mindestens) zwei nationalen Behörden vor, von denen die Marktüberwachungsbehörde als zentrale Anlaufstelle fungiert (Artikel 70 KI-VO). 

Das KI-Gremium 

Das KI-Gremium wird ohne weiteren Gründungsbeschluss unmittelbar durch die KI-VO errichtet und setzt sich aus je einem Vertreter pro EU-Mitgliedstaat zusammen. Den Vorsitz des KI-Gremiums führt ein Vertreter eines Mitgliedstaates, womit dieser in seiner organisatorischen Ausgestaltung dem Europäischen Datenschutzausschuss ähnelt. 

Im Gegensatz zum EU AI Office, das in die Verwaltungsstruktur der Generaldirektion Kommunikationsnetze, Inhalte und Technologien (DG Connect) eingegliedert ist, handelt es sich bei dem KI-Gremium um eine organisatorisch und personell von der Europäischen Kommission getrennte Einrichtung. Die Europäische Kommission wird allerdings durch Vertreter des EU AI Office an den Sitzungen des KI-Gremiums teilnehmen. 

Das KI-Gremium selbst hat keine Durchsetzungskompetenzen in Bezug auf die KI-VO, die mit denen des EU AI-Office oder einer nationalen Marktaufsichtsbehörde vergleichbar wären. Zweck des KI-Gremiums ist vielmehr die Verzahnung der KI-Politik zwischen der Europäischen Kommission (über das EU AI Office) und den Mitgliedstaaten. Zu diesem Zweck ist das KI-Gremium auf eine rein beratende Funktion beschränkt und nimmt eine „Doppelrolle“ ein. 

Auf europäischer Ebene wird das KI-Gremium die Europäische Kommission bei der wirksamen und harmonisierten Um- und Durchsetzung der KI-VO beraten und unterstützen. Im Mittelpunkt stehen hier Stellungnahmen, Empfehlungen und die Mitwirkung an der Erstellung von Leitlinien zur Harmonisierung der Verwaltungspraxis in den Mitgliedstaaten, insbesondere im Hinblick auf die Befreiung vom Konformitätsbewertungsverfahren gemäß Artikel 46 KI-VO und den Betrieb von KI-Reallaboren und Tests unter realen Bedingungen gemäß Artikel 57, 59 und 60 KI-VO. In der Vorbemerkung 149 zur KI-VO wird zudem klargestellt, dass das KI-Gremium insbesondere als Beratungsgremium für Durchsetzungsfragen und Normung nach der KI-VO fungieren soll. Zu diesem Zweck werden innerhalb des KI-Gremiums eine ständige Untergruppe für Marktüberwachung und eine ständige Untergruppe für Notifizierungen eingerichtet. 

In Bezug auf die EU-Mitgliedstaaten hat das KI-Gremium die Aufgabe, Stellungnahmen der Mitgliedstaaten zu Warnungen in Bezug auf KI-Modelle für allgemeine Zwecke und zu nationalen Erfahrungen und Praktiken bei der Aufsicht und Durchsetzung von KI-Systemen entgegenzunehmen, diese zu bewerten und die Ergebnisse der Europäischen Kommission vorzulegen. Insoweit nimmt das KI-Gremium teilweise Aufgaben wahr, die parallel zu denen des EU AI Office und dem Wissenschaftlichen Gremium laufen und sich teilweise mit diesen überschneiden. 

Das KI-Beratungsforum

Ebenfalls direkt durch die KI-VO wird ein sog. Beratungsforum eingerichtet (Artikel 67 KI-VO). Dieses fungiert als Expertengremium für technische Fragen und wird sowohl die Europäische Kommission als auch das KI-Gremium unterstützen. Es setzt sich aus verschiedenen Interessengruppen zusammen, darunter Vertreter der Industrie, Start-ups, KMU, der Wissenschaft, Think Tanks und der Zivilgesellschaft (Artikel 67 Abs. 1 KI-VO). Die Mitglieder des Beratungsforums werden ausschließlich durch die Europäische Kommission ernannt. Ständige Mitglieder sind die Agentur der Europäischen Union für Grundrechte (FRA), die Europäische Agentur für Netz- und Informationssicherheit (ENISA), das Europäische Komitee für elektrotechnische Normung (CENELEC) und das Europäische Institut für Telekommunikationsnormen (ETSI).

Hauptaufgabe des KI-Beratungsforums ist es, auf Ersuchen des KI-Gremiums oder der Europäischen Kommission Gutachten, Empfehlungen und schriftliche Stellungnahmen abzugeben (Artikel 67 Nr. 8 KI-VO). Wie beim KI-Gremium können zur Erfüllung seiner Aufgaben ständige oder zeitweilige Unterausschüsse eingesetzt werden.

Das Wissenschaftliches Gremium unabhängiger Sachverständiger 

Im Zusammenhang mit der Durchsetzung der GPAI-Bestimmungen und dem damit beauftragten EU AI Office wird das Wissenschaftliche Gremium unabhängiger Sachverständiger (Wissenschaftliches Gremium) eine zentrale Rolle spielen. 

Dieses – noch durch einen Durchführungsrechtsakt einzurichtende – Gremium wird sich aus Wissenschaftlern zusammensetzen, die von der Europäischen Kommission ausgewählt werden. Die Experten* des Gremiums müssen unabhängig von Anbietern von KI-Systemen oder GPAI-Modellen sein, da die Hauptaufgabe des wissenschaftlichen Gremiums darin besteht, die Umsetzung und Durchsetzung der Verordnung, insbesondere in Bezug auf GPAI-Modelle, durch das EU AI Office zu unterstützen. Dazu gehören die Abgabe von Warnungen vor möglichen Systemrisiken (vgl. Artikel 90 KI-VO), die Entwicklung von Bewertungsinstrumenten und -methoden, die Beratung bei der Risikoeinstufung und Klassifizierung von GPAI sowie die Unterstützung der nationalen Marktüberwachungsbehörden und der grenzüberschreitenden Marktüberwachung. Darüber hinaus unterstützt das Wissenschaftliche Gremium das EU AI Office im Rahmen des Schutzklauselverfahrens nach Artikel 81 KI-VO.

KI-Governance auf nationaler Ebene

Für die KI-Governance auf nationaler Ebene sieht die KI-VO vor, dass jeder Mitgliedstaat mindestens eine Notifizierungsbehörde und mindestens eine Marktüberwachungsbehörde zur Durchsetzung der KI-VO unterhält (Artikel 70 Abs. 1 KI-VO). 

Die konkrete Ausgestaltung überlässt die KI-VO den Mitgliedstaaten. So ist sowohl die Einrichtung neuer Behörden als auch die Zuweisung von Aufgaben an bereits bestehende Behörden möglich. Darüber hinaus können sich auch mehrere Behörden die Zuständigkeit für die Marktüberwachung teilen. Um die Effizienz der Organisation in den Mitgliedstaaten zu steigern und eine zentrale Anlaufstelle für die Öffentlichkeit und andere Ansprechpartner auf Ebene der Mitgliedstaaten und der Union zu schaffen, sieht Artikel 70 Abs. 2 KI-VO vor, dass jeder Mitgliedstaat die Marktüberwachungsbehörde oder eine der Marktüberwachungsbehörden als zentrale Anlaufstelle benennt. 

Ebenso eröffnet Artikel 69 KI-VO den Mitgliedstaaten die Möglichkeit, zur Unterstützung der der Durchsetzung der KI-VO auf nationaler Ebene Sachverständige aus dem wissenschaftlichen Gremium heranzuziehen. 

Hoher Reibungsverlust aufgrund vieler Akteure? 

Mit der KI-VO wird eine aufgrund der Vielzahl der Akteure auf den ersten Blick komplexe KI-Governance-Struktur eingeführt. Während das mehrstufige Governance-Modell das Ziel verfolgt, klare Strukturen für die Regulierung von KI-Systemen zu schaffen, indem die Koordination zwischen den Mitgliedstaaten und der EU-Kommission gestärkt und in jedem Mitgliedstaat eine zentrale Anlaufstelle auf für Fragen der KI-Regulierung geschaffen wird, bleibt unklar, wie effizient und schlagkräftig diese Struktur in der Praxis sein wird. Denn es ist nicht auszuschließen, dass die verschiedenen Gremien und Ausschüsse, insbesondere das Beratungsforum und das Wissenschaftliche Gremium, aufgrund ihrer breiten Zusammensetzung durch Interessenkonflikte und unklare Zuständigkeiten an Effektivität verlieren. Dennoch bieten sich gerade auch für Unternehmen und andere Stakeholder insbesondere durch die Mitgliedschaft im Beratungsforum wichtige Möglichkeiten, eigene Erfahrungen und Interessen einzubringen und aktiv Einfluss auf die Ausgestaltung der europäischen KI-Struktur und die Umsetzung der KI-VO zu nehmen.

In unserem CMS-Blog halten wir Sie mit unserer Blog-Serie „Künstliche Intelligenz“ fortlaufend zu diesem Thema auf dem Laufenden. Sie können diese Blog-Serie über den RSS-Feed abonnieren und werden von uns über neue Beiträge benachrichtigt. Im Rahmen dieser Blog-Serie sind bereits Beiträge erschienen zu Themen wie: EU-Parlament: Grünes Licht für die KI-VODurchsetzung der KI-VO auf europäischer Ebene: EU AI OfficeMithilfe Künstlicher Intelligenz plötzlich Urheber?Robo Advisor als Zukunft der GeldanlageKünstliche Intelligenz und der Journalismus der ZukunftWettbewerbsrechtliche Zulässigkeit von KI-gestützter Werbung. Sehen Sie zudem gern: Eigene KI-Sprachmodelle von Unternehmen (cms.law).

Haben Sie Anregungen zu weiteren Themen rund um KI, die in unserer Blog-Serie „Künstliche Intelligenz“ nicht fehlen sollten? Schreiben Sie uns gerne über blog@cms-hs.com.

Unseren englischsprachigen Ausblick auf die KI-VO finden Sie hier: Looking ahead to the EU AI Act (cms.law).

Jetzt registrieren und teilnehmen: AI Regulations in the EU, UK, and Asia: Essential Insights for HR and Employers

* Gemeint sind Personen jeder Geschlechtsidentität. Um der leichteren Lesbarkeit willen wird im Beitrag die grammatikalisch männliche Form verwendet.

Tags: KI-Governance künstliche Intelligenz