8. Januar 2021
Weißbuch Künstliche Intelligenz
TMC – Technology, Media & Communications

Künstliche Intelligenz: vzbv fordert umfassende Regulierung

Der vzbv spricht sich für eine strenge Regulierung sämtlicher KI-Anwendungen durch EU-Recht aus und lässt dabei Unternehmensinteressen außen vor.

Nach der Veröffentlichung des EU Weißbuchs zu künstlicher Intelligenz im Februar 2020 arbeitet die Europäische Kommission mit Nachdruck an einer für alle Mitgliedstaaten verbindlichen Verordnung. Die Verordnung soll rechtliche Rahmenbedingungen für den vertrauenswürdigen Einsatz von künstlicher Intelligenz (KI) in der EU schaffen. 

Für das erste Quartal 2021 ist nach derzeitigem Stand die Einleitung des Gesetzgebungsverfahrens geplant. In diesem Zusammenhang waren Unternehmen, Verbraucherverbände und andere Interessenvertreter dazu aufgerufen, zu der Folgenabschätzung der Kommission zur geplanten KI-Verordnung Stellung zu nehmen. 

Der Verbraucherzentrale Bundesverband e.V. (vzbv) hat diese Gelegenheit genutzt und in einer Stellungnahme einen strengen Ansatz vertreten. Um das Vertrauen der Bürger in KI zu stärken, fordert der vzbv eine effektive und umfassende Gesetzgebung auf europäischer Ebene. So soll sichergestellt werden, dass Sachverhalte mit KI‑Bezug europaweit einem einheitlichen Rechtsrahmen unterliegen. 

EU will durch Regulierung Vertrauen von Verbrauchern gewinnen und Entwicklung von KI auf europäischem Markt stärken 

Die Kommission erkennt in ihrer Folgenabschätzung an, dass der Einsatz von KI eine Vielzahl von Risiken birgt, denen durch die aktuell anwendbaren Gesetze nicht angemessen begegnet wird. Dem soll mit der geplanten KI‑Verordnung legislativ begegnet und so nicht zuletzt das Vertrauen der Bürger in intelligente Technologie gestärkt werden. Zudem verspricht sich die EU durch eine einheitliche Regulierung auch wirtschaftliche Vorteile, da es so zu höherer Nachfrage und Nutzung von KI am Wirtschaftsstandort EU kommen kann. Der europäische Markt soll attraktiver werden für Unternehmen, Start-Ups und junge Talente.

Die Kommission diskutiert im Rahmen der Folgenabschätzung die rechtlichen und ethischen Probleme des Einsatzes von KI. Sie identifiziert insbesondere die fehlende Transparenz bei KI‑Anwendungen sowie die Komplexität von KI-Systemen als problematisch. An diesen Punkten sieht die Kommission dringenden Handlungsbedarf, erkennt jedoch gleichzeitig, dass eine zu strenge Regulierung die Entwicklung von KI bereits im Keim ersticken und die EU so ihre Konkurrenzfähigkeit auf internationaler Ebene verlieren kann. Zu hohe (Compliance‑)Kosten können bei der Einführung neuer Produkte dazu führen, dass erstrebenswerte KI‑Anwendungen gar nicht erst entwickelt werden.

Mit dem geplanten einheitlichen Rechtsakt verfolgt die Kommission zusammengefasst folgende Ziele:

  • effektive Rechtsdurchsetzung bestehenden EU-Rechts;
  • Verbraucherschutz und Vertrauensbildung;
  • Rechtssicherheit für Unternehmen;
  • Compliance-Kosten dadurch senken, dass keine Anpassungen für die unterschiedlichen nationalen Märkte erforderlich sind.

Kommission präsentiert vier Ansätze für Regulierung von KI

Aktuell werden in der EU für KI‑Anwendungen lediglich allgemeine Rechtssätze angewendet, z.B. aus den Bereichen Verbraucherschutz und Produkthaftung. Dabei kommt es verstärkt zu Durchsetzungsproblemen und Unstimmigkeiten. Dem soll durch einen einheitlichen Rechtsrahmen abgeholfen werden, für dessen konkrete Ausgestaltung die Kommission vier unterschiedliche Ansätze entwickelt hat:

  • Option 1„Soft Law“ – nicht zwingendes Recht, wodurch von der Industrie geführte Initiativen, wie z.B. Ethikleitlinien, erleichtert und gefördert werden sollen (z.B. indem die Einhaltung von Industriestandards durch die EU überwacht wird). 
  • Option 2: Einführung eines freiwilligen Kennzeichnungssystems: Nutzer sollen direkt erkennen können, ob sie es mit vertrauenswürdiger KI zu tun haben.
  • Option 3Zwingende Regelungen für KI‑Anwendungen. Dabei gibt es drei verschiedene Möglichkeiten:
  • Gesetzgebung beschränkt auf bestimmte Kategorien von KI‑Anwendungen, wie z.B. biometrische Identifizierungssysteme.
  • Gesetzgebung beschränkt auf KI-Anwendungen mit „hohem Risiko“. Ob ein hohes Risiko vorliegt, soll sich nach dem Vorschlag der EU nach dem Sektor sowie der beabsichtigten Verwendung bestimmen (siehe bereits S. 20 des Weißbuchs).
  • Alle Anwendungen künstlicher Intelligenz werden erfasst.
  • Option 4Kombination aller Optionen, abhängig von der Risikogeneigtheit einzelner KI‑Anwendungen

vzbv spricht sich für zwingende Regelungen aus

Der vzbv begrüßt die Initiative der Europäischen Kommission und betont, dass sich bereits aus einer Umfrage des Europäischen Verbraucherverbands ergebe, dass die aktuelle Gesetzgebung für Verbraucher nicht ausreichend sei. Die meisten Verbraucher hätten eine negative Grundeinstellung gegenüber KI und fürchten, dass diese eingesetzt werde, um sie zu manipulieren.

In seiner Stellungnahme favorisiert der vzbv Option 3 (c), wonach alle KI-Anwendungen zwingend geregelt werden sollen. Nur so lasse sich Vertrauen unter den Verbrauchern aufbauen und Transparenz schaffen. Dabei müssten die Nachvollziehbarkeit sichergestellt und Risikobewertungen veröffentlicht werden. Verbraucher sollen über die Risiken von KI‑Anwendungen und den Datenbestand in Kenntnis gesetzt werden. Insbesondere wird von Anbietern risikoaffiner KI‑Anwendungen gefordert, jedes individuelle Ergebnis in verständlicher und greifbarer Art und Weise zu erklären. Bevor ein Produkt auf den Markt komme, sollten Audits zur Gewährleistung der Produktsicherheit durchgeführt werden.

Außerdem fordert der vzbv eine Ausstattung zuständiger Behörden mit finanziellen, technischen und personellen Mitteln sowie rechtlichen Befugnissen. Für das Vertrauen der jeweiligen Nutzer sei es maßgeblich, dass Schutzmechanismen geschaffen werden, die gerichtlich durchsetzbar sind. Freiwillige Vorgaben seien unzureichend. Aus diesen Gründen lehnt der vzbv die Optionen 1 und 2 grundsätzlich ab. Sie böten keine ausreichenden Garantien, dass die Unternehmen den europäischen Gesetzen und Werten folgen werden. Die Optionen 3 (a) und (b) seien nach Ansicht des vzbv zu eng gefasst. Vielmehr sollten sämtliche KI‑Anwendungen einem Mindeststandard von Verpflichtungen unterworfen werden.

Zu strenge Regeln schaden Wettbewerbsfähigkeit des Standorts EU

Ein harmonisierter Rechtsrahmen schafft eine einheitliche Vertrauensbasis und ist somit zu begrüßen. Die vom vzbv geforderten strengen Regelungen sind jedoch nicht nur innovationshemmend, sondern auch nicht unbedingt im Interesse der Verbraucher. Die Umfrage des Europäischen Verbraucherverbands hat gezeigt, dass Verbraucher auch das Nützliche in KI sehen, zum Beispiel den Einsatz von KI zur Verhinderung von Verkehrsunfällen oder zur Verbesserung der Gesundheit. Werden jetzt zu strenge Maßnahmen getroffen, kann dies zu weniger Flexibilität bei der Weiterentwicklung der Technologien führen. 

Durch einen liberaleren Mittelweg könnte die EU zu einem innovativen und damit konkurrenzfähigen Standort in einem äußerst kompetitiven internationalen Umfeld werden. Der vzbv verkennt insbesondere, dass Transparenz zwar wichtig ist, jedoch gleichzeitig Unternehmen ein Interesse daran haben, gewisse Informationen, wie zum Beispiel die Programmierung und Abläufe ihrer Algorithmen, geheim zu halten. Hierbei handelt es sich regelmäßig um Geschäftsgeheimnisse, die zur Sicherung der eigenen Wettbewerbsfähigkeit geschützt werden müssen. Durch die gesetzgeberischen Vorgaben sollten keine wesentlichen Hindernisse für Entwickler und Anwender von KI geschaffen werden, da der europäische Markt sonst im internationalen Vergleich abgehängt wird. Verzögerte Produkteinführungen infolge lähmender Regulierung und Bürokratie sind gerade bei einem so schnelllebigen und innovativen Markt ein entscheidender Standortnachteil.

Als Mittelweg ist die von der Kommission vorgeschlagene Kombinationslösung denkbar (Option 4). Der von der vzbv bevorzugte One-Size-Fits-All-Ansatz (Option 3 (c)) ist bei der Regulierung von KI nicht zielführend. Riskante Anwendungen sollten verbindlichen Regelungen unterliegen (zum Beispiel bei einem KI-Einsatz im Gesundheitswesen oder im Rahmen autonomen Fahrens), während in anderen Bereichen auch Soft Law ausreichend sein kann (zum Beispiel bei intelligenten Anwendungen zur Spracherkennung / Übersetzung oder einer intelligenten Terminvergabe). Es ist zu begrüßen, dass die Kommission in ihrer ersten Folgenabschätzung die Interessen von Entwicklern ausdrücklich betont und das Vorhaben bisher einen ausgewogenen Eindruck macht. Dieser ausgewogene Ansatz sollte während des Gesetzgebungsverfahren unbedingt weiterverfolgt werden.

Tags: künstliche Intelligenz VZBV Weißbuch


Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.