Pflicht oder Kür? – KI-Kompetenz gemäß KI-VO als zentraler Bestandteil der KI-Compliance im Unternehmen  

Dieser Beitrag zeigt die Anforderungen von Art. 4 KI-Verordnung in Bezug auf die Vermittlung von KI-Kompetenz auf und stellt ein Schulungskonzept vor.

Die am 1. August 2024 in Kraft getretene KI-Verordnung (KI-VO) markiert einen Meilenstein für den verantwortungsvollen Einsatz von Künstlicher Intelligenz (KI) in der EU. Während der Großteil der Bestimmungen erst ab dem 2. August 2026 gelten wird, gelten die Vorschriften zur KI-Kompetenz nach Art. 4 KI-VO bereits ab dem 2. Februar 2025. Zudem diese Vorschrift als eine der ganz wenigen Regelungen der KI-VO für alle KI-Systeme im Anwendungsbereich der KI-VO. 

Angesichts dessen stehen Unternehmen nun vor der Herausforderung innerhalb kurzer Zeit für ein ausreichendes Maß an KI-Kompetenz zur sorgen. Hierbei ist die Förderung von KI-Kompetenz für Unternehmen auch von strategischer Bedeutung: Sie ermöglicht nicht nur den sicheren Betrieb, sondern schützt auch vor Haftungsrisiken und stärkt das Vertrauen in den verantwortungsvollen Umgang mit KI. Art. 4 KI-VO ist – trotz fehlender Bußgeldbewehrung eines Verstoßes – damit eine ganz zentrale Vorschrift für die Herstellung unternehmensinterner KI-Compliance. 

Dieser Blogbeitrag zeigt den wesentlichen Regelungsgehalt dieser wichtigen Vorschrift auf und stellt ein mögliches Schulungskonzept zur Vermittlung von KI-Kompetenz vor. 

Der Appellcharakter von Artikel 4 KI-VO

Art. 4 KI-VO ist nicht als konkrete Verpflichtung, sondern mit appellierendem Charakter formuliert. Dies zeigt sich auch daran, dass ein Verstoß gegen Art. 4 KI-VO nicht durch die KI-VO mit Sanktionen (wie etwa Bußgeldern) belegt ist. Diese bedeutet aber keineswegs einen Freibrief zur Vernachlässigung der Schulungsverpflichtung, denn das Fehlen expliziter Strafen entbindet Unternehmen nicht von der Verantwortung, für die sichere Nutzung ihrer KI-Systeme zu sorgen.

Falls ein Schaden durch eine fehlerhafte Bedienung eines KI-Systems oder eine unzureichende Risikobewertung entsteht, könnte dies als Verletzung der allgemeinen Sorgfaltspflicht ausgelegt werden. Wenn der Schaden durch angemessene Schulung hätte verhindert werden können. Daher sollten Unternehmen den Appellcharakter von Art. 4 KI-VO ernst nehmen und proaktive Schulungsmaßnahmen ergreifen. Dies schützt nicht nur die Reputation des Unternehmens, sondern stärkt auch das Vertrauen der Mitarbeitenden und Geschäftspartner und zeigt, dass das Unternehmen die rechtliche und ethische Verantwortung für den Einsatz von KI-Systemen ernst nimmt.

KI-Kompetenz: Begriff und Anforderungen

Anbieter und Betreiber von KI-Systemen haben nach Art. 4 Maßnahmen zu ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei hierbei Vorkenntnisse sowie die Art des oder der eingesetzten KI-Systeme zu berücksichtigen sind. 

Einen abstrakten Maßstab, wann ein ausreichendes Maß an KI-Kompetenz vorliegt, bietet die KI-VO also nicht. Es liegt auf der Hand, dass dies zu Umsetzungsproblemen und erheblichem Aufwand in der betrieblichen Praxis führt. Dieser Aufwand kann jedoch durch modularisierte Schulungen, die je nach Personenkreis die in der KI-VO vorgesehenen Dimensionen der KI-Kompetenz in unterschiedlicher Tiefe vermitteln, deutlich reduziert werden.

Die unterschiedlichen Dimensionen von KI-Kompetenz 

Art. 3 Nr. 56 KI-VO definiert KI-Kompetenz als die

Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI‑Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.  

Diese Definition umfasst mehrere Dimensionen, die sicherstellen, dass Nutzende die Technologie sowohl technisch als auch rechtlich und ethisch fundiert anwenden. Die Kompetenzanforderungen beinhalten:

• Technisches Wissen: Die Schulung sollte grundlegende Funktionsweisen von KI-Systemen, maschinelles Lernen und Algorithmen vermitteln. Dies ermöglicht es Nutzenden, die Entscheidungsprozesse des KI-Systems nachzuvollziehen und kritisch zu hinterfragen.

• Bewusstsein für Chancen und Risiken: KI bietet zahlreiche Vorteile, wie Effizienzsteigerungen und verbesserte Entscheidungsprozesse. Gleichzeitig sollten Nutzende Risiken wie Datenschutzprobleme, Verzerrungen (Bias) und Sicherheitslücken erkennen können, um diesen aktiv vorzubeugen.

• Rechtliches und ethisches Verständnis: Nutzende müssen über die rechtlichen Vorgaben informiert sein und die ethischen Standards der EU verstehen, um KI verantwortungsvoll zu nutzen. Hierzu zählen insbesondere der Datenschutz, Diskriminierungsvermeidung und die Verpflichtung zur Transparenz und Dokumentation.

Es geht also gerade nicht nur um die Vermittlung des rechtlichen Rahmens für den Einsatz von KI. Vielmehr geht es darum, die Beschäftigten zu einem verantwortungsvollen Umgang mit KI zu befähigen. 

Um den Anforderungen von Art. 4 KI-VO gerecht zu werden, ist daher ein ganzheitliches Konzept zur Vermittlung KI-Kompetenz notwendig, welches die technischen, rechtlichen, ethischen und gesellschaftlichen Fragestellungen in Zusammenhang mit künstlicher Intelligenz zu beleuchtet. 

Schulungen als Grundbaustein für KI-Kompetenz

Eine wichtige Maßnahme zur Vermittlung von KI-Kompetenz i.S.d. Art. 4 KI-VO ist die Schulung aller Personen, die in irgendeiner Weise mit KI-Systemen arbeiten oder deren Betrieb unterstützen geschult werden müssen. Dies umfasst:

• Mitarbeitende in operativen Rollen: Direkt für die Bedienung und Wartung von KI-Systemen zuständig.
• Führungskräfte und Geschäftsführer: Treffen strategische Entscheidungen über den Einsatz und die Implementierung von KI und benötigen ein breites Verständnis der Technologien und ihrer Implikationen.
• Leiharbeitnehmer und externe Dienstleister: Auch Personen, die temporär oder als Berater tätig sind, müssen über die notwendigen Kompetenzen im Umgang mit KI verfügen.

Zwar beschränkt die Vermittlung von KI-Kompetenz nach Art. 4 KI-VO nicht auf Schulungen, durch ein umfassendes Schulungskonzept wird aber der Grundbaustein dafür gelegt, dass alle Beteiligten in der Lage sind, KI-Systeme sachgerecht und verantwortungsvoll zu bedienen und Risiken frühzeitig zu erkennen und zu minimieren, also KI-kompetent sind. 

Modulares Schulungskonzept zur zielgruppenspezifischen Kompetenzvermittlung 

Hierbei ermöglicht ein modulares Schulungskonzept, Schulungen flexibel auf die unterschiedlichen Bedürfnisse und Wissensstände der Mitarbeitenden abzustimmen und damit den Anforderungen von Art. 4 KI-VO in praxistauglicher Art gerecht zu werden. Ein solches Konzept teilt die Schulungen in verschiedene Module ein, die auf spezifische Zielgruppen und Anforderungen zugeschnitten sind. So könnten die Schulungen folgendermaßen strukturiert sein:

• Grundlagenschulung für alle Mitarbeitenden: Diese allgemeine Schulung vermittelt ein fundiertes Verständnis für KI, einschließlich der Funktionsweisen von KI-Systemen, rechtlichen Rahmenbedingungen und ethischen Überlegungen. Ziel ist es, ein breites Wissen über Chancen und Risiken von KI zu schaffen.

• Spezialschulungen für Führungskräfte und Geschäftsführung: Für Entscheidungsträger liegt der Schwerpunkt weniger auf technischen Details, sondern vielmehr auf einem Verständnis für die Potenziale und rechtlichen Rahmenbedingungen von KI. Ziel ist es, die strategische Entscheidungsfindung im Umgang mit KI zu stärken.

• Technische Schulungen für IT und Entwickler: Mitarbeitende mit technischer Ausbildung benötigen detailliertes Wissen über KI-Mechanismen wie maschinelles Lernen, Datenverarbeitung und Algorithmen. Diese Schulungen gehen spezifisch auf die technischen Herausforderungen ein, die im KI-Entwicklungsprozess auftreten.

• Schulungen für externe Berater und Dienstleister: Externe Personen, die in die KI-Prozesse eingebunden sind, benötigen ein Grundverständnis der eingesetzten KI-Technologie und der geltenden rechtlichen und ethischen Anforderungen. Dies stellt sicher, dass auch externe Beteiligte in der Lage sind, sicher und regelkonform mit KI-Systemen umzugehen.

Weitere Maßnahmen zur Förderung der KI-Kompetenz

Neben den Schulungen können Unternehmen weitere Maßnahmen ergreifen, um die KI-Kompetenz nachhaltig zu fördern:

• Interne Richtlinien und Standards: Diese schaffen Transparenz und Orientierung für alle Mitarbeitenden im Umgang mit KI. Die Standards sollten die Nutzung, Überwachung und Wartung von KI regeln und sicherstellen, dass die Anforderungen der KI-VO erfüllt werden.

• Ernennung eines KI-Beauftragten: Ein KI-Beauftragter fungiert als zentrale Ansprechperson und Koordinator für alle KI-bezogenen Fragen im Unternehmen. Er kann Schulungen organisieren und steht den Mitarbeitenden bei Fragen oder Problemen zur Verfügung. 

• Regelmäßige Fortbildungsangebote: Die rasante Entwicklung im KI-Bereich erfordert kontinuierliche Weiterbildungen, um auf dem neuesten Stand zu bleiben und auf neue rechtliche Entwicklungen reagieren zu können.

Diese Maßnahmen tragen dazu bei, eine fundierte Wissensbasis und ein hohes Kompetenzniveau im Umgang mit KI zu schaffen. Die Etablierung eines KI-Beauftragten und regelmäßige Weiterbildungen gewährleisten zudem eine zentrale Koordination und nachhaltige Unterstützung.

KI-Kompetenz der Mitarbeiter als strategisches Ziel

Die Anforderungen der KI-VO sind eine strategische Chance für Unternehmen, die langfristige Sicherheit und Qualität im Umgang mit KI zu gewährleisten. Ein modulares Schulungskonzept ermöglicht es, die Anforderungen von Art. 4 zielgerichtet umzusetzen und die Mitarbeitenden gezielt auf ihre jeweiligen Rollen im Umgang mit KI vorzubereiten. Unternehmen, die diese Schulungspflicht ernst nehmen, stärken nicht nur ihre eigene Compliance und Risikominimierung, sondern fördern auch eine Unternehmenskultur der Verantwortung und Sicherheit im Umgang mit KI. So wird das Unternehmen als vertrauenswürdiger Akteur auf dem Markt wahrgenommen und profitiert gleichzeitig von den Vorteilen, die eine sachgerechte Nutzung von KI mit sich bringt.

Die Schulungsstrategie ist somit mehr als eine Formalität – sie bildet den Grundstein für eine sichere und zukunftsorientierte Nutzung von KI und stärkt das Vertrauen in den verantwortungsvollen Umgang mit neuen Technologien.

Weitere Informationen zu unserem Schulungsangebot zur KI-Kompetenz und weiteren Themen finden Sie hier: CMS Client Academy | Künstliche Intelligenz – Grundlagen | E-Learning.

In unserem CMS-Blog halten wir Sie mit unserer Blog-Serie „Künstliche Intelligenz“ fortlaufend zu diesem Thema auf dem Laufenden. Sie können diese Blog-Serie über den RSS-Feed abonnieren und werden von uns über neue Beiträge benachrichtigt. Im Rahmen dieser Blog-Serie sind bereits Beiträge erschienen zu Themen wie: Viel hilft viel (?): Die KI-Governance Struktur nach der KI-VO; Durchsetzung der KI-VO auf europäischer Ebene: EU AI Office; Mithilfe Künstlicher Intelligenz plötzlich Urheber?; Robo Advisor als Zukunft der Geldanlage; Künstliche Intelligenz und der Journalismus der Zukunft; Wettbewerbsrechtliche Zulässigkeit von KI-gestützter Werbung. Sehen Sie zudem gern: Eigene KI-Sprachmodelle von Unternehmen (cms.law).

Haben Sie Anregungen zu weiteren Themen rund um KI, die in unserer Blog-Serie „Künstliche Intelligenz“ nicht fehlen sollten? Schreiben Sie uns gerne über blog@cms-hs.com.

Unseren englischsprachigen Ausblick auf die KI-VO finden Sie hier: Looking ahead to the EU AI Act (cms.law).

* Gemeint sind Personen jeder Geschlechtsidentität. Um der leichteren Lesbarkeit willen wird im Beitrag die grammatikalisch männliche Form verwendet.