Der am 12. September 2025 erschienene neue Entwurf gibt einen Einblick, wie die KI-VO in Deutschland umgesetzt werden könnte und enthält Regelungen zu innovationsfördernden Maßnahmen.
Am 1. August 2024 trat die Verordnung des Europäischen Parlaments und Rates (EU) 2024/1689 (KI-VO) in Kraft, die harmonisierte Regeln für künstliche Intelligenz (KI) festlegt. Bis August 2025 mussten die Mitgliedstaaten die notwendigen Strukturen für die Marktüberwachung schaffen. Deutschland hat diese Frist verpasst. Ein erster Referentenentwurf des KI-Marktüberwachungsgesetzes (KIMÜG-Entwurf) wurde zwar bereits im Dezember 2024 noch unter der alten Bundesregierung bekannt, bisher aber noch nicht als Gesetz verabschiedet. Ein neuer Referentenentwurf für ein „KI-Marktüberwachungs- und Innovationsförderungsgesetz“ (KI-MIG), knüpft an den Entwurf aus dem letzten Jahr an und gibt Hinweise, wie Deutschland die Aufsichtsstruktur und die Behördenorganisation zur Umsetzung der KI-VO gestalten könnte.
Dieser Blogbeitrag skizziert die wesentlichen Inhalte des KI-MIG-Entwurfs und beleuchtet zentrale Punkte des geplanten Umsetzungsgesetzes.
Aufsichts- und Behördenstruktur: Nutzung bestehender Strukturen und die Bundesnetzagentur als zentrale Instanz
Nach der KI-VO muss jeder Mitgliedstaat mindestens eine notifizierende Behörde und mindestens eine Marktüberwachungsbehörde als zuständige nationale Behörden einrichten oder benennen (Art. 70 Abs. 1 S. 1 KI-VO).Während die nationale Marktüberwachungsbehörde die Aufsicht über verbotene Praktiken im KI-Bereich, über Hochrisiko-KI-Systeme sowie über die Einhaltung von Transparenzpflichten durch Anbieter und Betreiber bestimmter KI-Systeme übernimmt, verantwortet die notifizierende Behörde die Einrichtung und Durchführung der erforderlichen Verfahren für die Bewertung, Benennung, Notifizierung und Überwachung von Konformitätsbewertungsstellen.
Der neue KI-MIG-Entwurf sieht vor, dass die Behörden, die in vollharmonisierten Bereichen der Produktregulierung bereits zuständige Marktüberwachungs- und notifizierende Behörde sind, zugleich im Bereich der KI-VO zuständige Behörde werden. Durch eine Zukunftsklausel gilt diese Zuständigkeitsverteilung zudem in Bereichen, in denen entsprechende europäische Harmonisierungsvorschriften in der Zukunft erst noch erlassen werden.
Anders als der alte Referentenentwurf beinhaltet der neue § 2 Abs. 3 bis 4 KI-MIG-E nunmehr einen ausführlichen Katalog an Zuständigkeiten, der festlegt, in welchen Fällen die Bundesanstalt für Finanzdienstleistungsaufsicht als Marktüberwachungsbehörde im Rahmen der KI-VO zuständig wird. Grundsätzlich übernimmt sie die Aufsicht für Hochrisiko-KI-Systeme, die in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehen.
Der neue Entwurf nimmt zudem in größerem Umfang auf die Verordnung des Europäischen Parlaments und Rates (EU) 2024/2847 („Cyberresilienz-Verordnung“) Bezug, welche Vorschriften für die Cybersicherheit von Produkten mit digitalen Elementen regelt. Soweit KI-Systeme in den Anwendungsbereich dieser Verordnung fallen und zugleich als Hochrisiko-KI-Systeme gemäß der KI-VO einzustufen sind, ist die nach der KI-VO zuständige Marktüberwachungsbehörde zugleich für die Einhaltung der nach der Cyberresilienz-Verordnung vorzunehmenden Marktüberwachungstätigkeiten zuständig.
Für alle Bereiche, für die es keine bestehende bzw. gesetzlich zugewiesene Aufsichtsbehörde gibt, wird die Bundesnetzagentur für Elektrizität, Gas, Telekommunikation, Post und Eisenbahnen (Bundesnetzagentur) zuständige Marktüberwachungsbehörde und notifizierende Behörde. Die Aufsicht über KI-Modelle mit allgemeinem Verwendungszweck fällt hingegen in den Zuständigkeitsbereich des EU AI Office, das die europaweite Überwachung und Koordination sicherstellen soll.
Die Regelungen des KI-MIG zielen darauf ab, bestehende behördliche Strukturen der Marktüberwachung zu nutzen und den Aufbau von Doppelstrukturen zu vermeiden. Gleichzeitig führt dies jedoch zu einer Vielzahl von zuständigen Behörden. Deshalb formuliert auch der neue KI-MIG-Entwurf Vorschriften zur Zusammenarbeit und Kooperation der zuständigen Marktaufsichtsbehörden und sieht die Beteiligung weiterer Behörden vor, soweit ihre Zuständigkeiten tangiert sind (insbesondere die Datenschutzbehörden, das Bundesamt für Sicherheit in der Informationstechnik und das Bundeskartellamt, § 9 Abs. 4 KI-MIG-E).
Auch soll durch die Bündelung der Ressourcen und Kompetenzen bei der Bundesnetzagentur einem zentralen Problem bei der Umsetzung der KI-VO begegnet werden: dem KI-Fachkräftemangel. Die Bundesnetzagentur soll die anderen Behörden unterstützen und ihnen ihre Ressourcen zur Verfügung stellen. Dadurch soll eine Konkurrenz um KI-Fachkräfte und Ressourcen zwischen den Behörden vermieden werden. Zudem soll eine möglichst einheitliche und praktikable Auslegung und Anwendung der KI-VO sichergestellt werden.
Ähnlich wie auch der Referentenentwurf aus Dezember 2024 regelt der Entwurf des KI-MIG weitere Aufgaben und Zuständigkeiten der Bundesnetzagentur:
Zentrales Koordinierungs- und Kompetenzzentrum (KoKIVO)
Der KI-MIG-Entwurf sieht die Einrichtung eines zentralen Koordinierungs- und Kompetenzzentrums (KoKIVO) bei der Bundesnetzagentur vor. Sie wird damit Koordinierungsstelle für die Zusammenarbeit aller zuständigen Marktüberwachungs- und notifizierenden Behörden sowie der Akkreditierungsstellen. Sie soll zuständigen Behörden bei komplexen Entscheidungen im Anwendungsbereich der KI-VO unterstützen und im Bedarfsfall in ihrer Zuständigkeit betroffene Bundesbehörden hinzuziehen. Zudem soll sie darauf hinwirken, dass die KI-VO einheitlich ausgelegt wird. Hierzu können Ausschüsse – vergleichbar mit dem Format der Bund-Länder-Ausschüsse – eingerichtet werden, denen verschiedene Behörden angehören. Eine weitere Aufgabe des KoKIVO wird in der aktiven Mitwirkung an der Erstellung von Verhaltenskodizes liegen. Hierzu soll sie den Austausch zwischen Zivilgesellschaft, Wissenschaft und Wirtschaft fördern.
Unabhängige Marktüberwachungskammer (UKIM)
Bei der Bundesnetzagentur soll eine unabhängige Marktüberwachungskammer (UKIM) speziell für KI-Hochrisikosysteme, die von Strafverfolgungs-, Einwanderungs- oder Asylbehörden in Betrieb genommen werden sollen, eingerichtet werden. Diese ist dabei völlig unabhängig von der Bundesnetzagentur, kann aber gleichzeitig auf ihre Ressourcen zugreifen. Nach dem Entwurf des KI-MIG soll die UKIM dem Bundestag jährlich einen Tätigkeitsbericht vorlegen, welcher erstmals für das Jahr 2026 erstellt werden soll.
Damit wurde kein Gebrauch gemacht von der in der KI-VO genannten Alternative, diese Teilaufgabe auf die Datenschutzbehörde zu übertragen. Begründet wird dies sowohl mit der Vermeidung von Abgrenzungsschwierigkeiten, insbesondere unklare Zuständigkeiten und auseinanderfallende Ansprechpartner für Unternehmen und Verwaltung, als auch mit der Sicherstellung einer einheitlichen Auslegung und Anwendung der KI-VO.
Zentrale Anlaufstelle
Die Bundesnetzagentur wird die zentrale Anlaufstelle gem. Art. 70 Abs. 2 S. 3 KI-VO und damit der zentrale deutsche Ansprechpartner auf Ebene der Mitgliedstaaten und der Union bezüglich der Anwendung der KI-VO. Auch wird sie damit Koordinatorin in der Schnittstelle zu dem EU AI Office.
Sie soll von allen zuständigen Marktüberwachungs- und notifizierenden Behörden Informationen über ihre jeweiligen Aufgaben und Ansprechpersonen erhalten und diese öffentlich zugänglich machen und ist zuständig für die Melde- und Berichtspflichten auf Ebene der Mitgliedstaaten und der Union, die sich aus der KI-VO ergeben und für die Beantwortung von Anfragen der Kommission.
Zentrale Beschwerdestelle
Die Bundesnetzagentur wird gleichzeitig die zentrale Beschwerdestelle. Nach Art. 85 der KI-VO sind Beschwerden wegen eines Verstoßes gegen die KI-VO bei der betreffenden Marktüberwachungsbehörde einzureichen. Dies wird für den Beschwerdeführer durch den KI-MIG-Entwurf vereinfacht, indem dieser seine Beschwerde zentral bei der Bundesnetzagentur einreichen kann, die die Zuständigkeitsprüfung übernimmt und die Beschwerde ggf. an die zuständige Marktüberwachungsbehörde weiterreicht.
Wissensvermittlung und Innovationsförderung
Der aktuelle Referentenentwurf legt zudem einen noch stärkeren Fokus auf Wissensvermittlung und Innovationsförderung.
Der Bundesnetzagentur soll nach § 12 KI-MIG-E die Aufgabe zukommen, Marktteilnehmer mit Blick auf die Anwendung der KI-VO zu informieren, Sensibilisierungs- und Schulungsmaßnahmen durchzuführen und den Wissensaufbau und -austausch zum Thema KI zu fördern mithilfe von Studien, Analysen und Fachveranstaltungen.
Nach Art. 57 KI-VO müssen Mitgliedstaaten mindestens ein KI-Reallabor einrichten und betreiben für die Entwicklung, das Training, das Testen und die Validierung innovativer KI-Systeme unter Realbedingungen.
Die Bundesnetzagentur ist nach dem KI-MIG-Entwurf zuständig für die Einrichtung und den Betrieb mindestens eines Reallabors. Der Zugang soll dabei vorrangig KMU, einschließlich Start-ups, die ihren Sitz oder eine Zweigniederlassung in der Union haben, und die Voraussetzungen und Auswahlkriterien erfüllen, gewährt werden. Die Überwachung der Durchführung der Tests obliegt der jeweils zuständigen Marktüberwachungsbehörde.
Weitere Regelungen
Schließlich regelt der KI-MIG-Entwurf die Anwendung des Gesetzes über Ordnungswidrigkeiten für Bußgelder bei Verstößen gegen die KI-VO, legt hier die nach dem KI-MIG-E jeweils zuständige Marktüberwachungs- bzw. notifizierende Behörde oder die Deutsche Akkreditierungsstelle als zuständige Verwaltungsbehörde fest und regelt noch einmal explizit die Aufbewahrungspflichten aus Art. 18 Abs. 1 der KI-VO für Anbieter.
Ausblick: Umsetzung des KI-Marktüberwachungs- und Innovationsförderungsgesetzes
Der Referentenentwurf des KI-Marktüberwachungs- und Innovationsförderungsgesetzes bietet eine solide Grundlage für die Umsetzung der KI-VO in Deutschland und verfolgt einen durchdachten Ansatz, der Effizienz, Innovation und Praxistauglichkeit miteinander verbindet. Die vorgeschlagene zentrale Rolle der Bundesnetzagentur und die Nutzung bestehender Strukturen sind vielversprechend, um klare Verantwortlichkeiten zu schaffen und insbesondere KMU sowie Start-ups effektiv zu unterstützen. Dennoch bleibt abzuwarten, ob und in welcher Form dieser Entwurf letztlich umgesetzt wird.
Nunmehr muss ein zügiges Inkrafttreten des Gesetzes erfolgen, da die Benennung der zuständigen Behörden eigentlich schon zum 2. August 2025 hätte erfolgen müssen.
In unserem CMS-Blog halten wir Sie mit unserer Blog-Serie „Künstliche Intelligenz“ fortlaufend zu diesem Thema auf dem Laufenden. Sie können diese Blog-Serie über den RSS-Feed abonnieren und werden von uns über neue Beiträge benachrichtigt. Im Rahmen dieser Blog-Serie sind bereits Beiträge erschienen zu Themen wie KI im Journalismus: Chancen, Risiken, regulatorische Herausforderungen oder zur Frage, was „KI-Systeme“ i.S.d. KI-Verordnung bedeutet. Weitere Beiträge befassen sich mit AI-Washing, der GPAI-Compliance oder mit dem Urteil des OLG Köln: KI-Training mit Nutzerdaten ist zulässig.
Haben Sie Anregungen zu weiteren Themen rund um KI, die in unserer Blog-Serie „Künstliche Intelligenz“ nicht fehlen sollten? Schreiben Sie uns gerne über blog@cms-hs.com.
* Gemeint sind Personen jeder Geschlechtsidentität. Um der leichteren Lesbarkeit willen wird im Beitrag die grammatikalisch männliche Form verwendet.
