14. Juni 2022
Künstliche Intelligenz KI Mythen
Digitale Transformation

Fünf Mythen zur Künstlichen Intelligenz (KI)

KI soll die Arbeit erleichtern, ihre Einführung ist aber nicht nur technisch, sondern auch rechtlich komplex und nur nützlich, sofern rechtssicher gestaltet.

Künstliche Intelligenz ist keine Zukunftsvision, sondern Realität. Ob der digitale Sprachassistent im Smart Home, die Steuerung des eigenen Autos, Gesichtserkennung bei der Verkehrskontrolle, personalisierte Empfehlungen beim E-Learning oder die Vorauswahl von Bewerbern* im Recruiting – bei allen wird schon jetzt auf KI zurückgegriffen. Neben unternehmerischer und wirtschaftlicher Hoffnung löst KI jedoch auch Zweifel und Ängste aus. Die fünf hartnäckigsten Mythen rund um KI stellen wir mit diesem Beitrag auf den Prüfstand. 

Die Entwicklung einer vollständigen künstlichen Intelligenz könnte das Ende der Menschheit bedeuten. […] Es würde von selbst abheben und sich immer schneller neugestalten.

Stephen Hawking

Zunächst aber die Frage: Was ist KI eigentlich? Als Teilgebiet der Informatik befasst sich KI mit der Automatisierung von intelligentem Verhalten und versucht somit, menschliches Denken und Lernen auf Computersysteme und Softwares zu übertragen. Eine bekannte KI-Methode ist das maschinelle Lernen, bei dem durch Lernalgorithmen aus Beispielen ein komplexes Modell entwickelt und somit Wissen aus Erfahrungswerten generiert wird. Dieses Modell wird anschließend zur Auswertung von neuen (unbekannten) Daten derselben Art eingesetzt. 

Eine solche vollständige Nachbildung menschlicher Intelligenz, die nicht mehr auf die Lösung eines konkreten Problems beschränkt ist, sondern aus eigenem Antrieb flexibel und kreativ handelt (sog. Starke KI), ist bisher hauptsächlich aus Science-Fiction bekannt. Alle aktuellen KI-Systeme lösen eng umrissene Aufgaben und können in spezifischen Bereichen menschliche Fähigkeiten übertreffen (sog. Schwache KI). Vielversprechend ist der Einsatz vor allem für die Übernahme von redundanten Aufgaben sowie für die Steigerung der Effizienz einzelner Aufgaben und Prozesse. Für Unternehmen wird KI so immer mehr zu einem Wettbewerbsfaktor. Umso wichtiger ist es, über folgende Mythen aufgeklärt zu sein.

1. KI steckt noch in den Kinderschuhen und spielt in der Planung und Ausrichtung der Unternehmen nach wie vor keine nennenswerte Rolle. 

Falsch. Aktuelle KI-Systeme werden zwar ständig weiterentwickelt und ausgebaut, sind aber nicht mehr bloße Zukunftsmusik, sondern aus vielen Unternehmen und verschiedenen Branchen schon jetzt nicht mehr wegzudenken. 

Nach einer Bitkom-Studie von April 2021 wird KI zwar derzeit nur in 8 % der deutschen Unternehmen eingesetzt, jedoch plant jedes vierte Unternehmen Investitionen in KI-Anwendungen und mehr als zwei Drittel der Befragten halten KI für die wichtigste Zukunftstechnologie. Unternehmen geht es nicht darum, komplexe Algorithmen zu implementieren, sondern die eigenen Geschäftsprozesse mit Hilfe von KI effizienter zu gestalten. 44 % versprechen sich schnellere und präzisere Problemanalysen, 35 % erwarten beschleunigte Prozesse und 30 % erhoffen sich einen geringeren Ressourcenverbrauch. Insbesondere kleine und mittlere Unternehmen können von dem Potenzial der KI profitieren und ihre Wahrscheinlichkeit einer erfolgreichen, wettbewerbsfähigen Weiterentwicklung sowie die Sicherheit ihrer Arbeitsplätze steigern. Dabei handelt es sich nicht immer um komplexe KI-Systeme, wie man sie von Tech-Giganten kennt. Bereits in vielen kleineren Entwicklungen können die Vorteile von KI genutzt werden. Ein Beispiel hierfür sind Chatbots, die Kundenanfragen automatisiert bearbeiten, spezifizieren und idealerweise auch schon klären können. Unternehmen verschaffen sich hier eine standardisierte und effizientere Bearbeitung solcher Anfragen und sparen Ressourcen durch den Wegfall der menschlichen Komponente.

I fear that AI may replace humans altogether. If people design computer viruses, someone will design AI that replicates itself.

Stephen Hawking

Kurzum: KI hat die Phase der Kinderschuhe bereits hinter sich gelassen und spielt schon jetzt eine entscheidende Rolle in der Planung und Ausrichtung von Unternehmen. Gleichzeitig bedeutet der Einfluss von KI aber nicht, dass Roboter die Arbeit in Unternehmen komplett übernehmen. KI erlaubt schnellere Entscheidungen auf einer besseren Datenbasis und erhöht die Anpassungsfähigkeit von Unternehmen bei Marktveränderungen durch Echtzeitinformationen sowie Vorhersagen jenseits menschlicher Fähigkeiten. KI schafft für Unternehmen also weit mehr als Effizienz – sie ist ein Schlüssel zu erhöhter Wettbewerbsfähigkeit. Sie unterstützt die Arbeit von Menschen, schafft sie aber nicht grundlegend ab. 

2. Die Anwendung von KI ist bislang völlig unreguliert, sie findet in deutschen Gesetzen bislang keinerlei Erwähnung.

Falsch. Wer bislang nach einem KI-Gesetz suchte, der wurde in der Tat nicht fündig. Bedeutet das also, dass KI total unreguliert eingesetzt wird und sie keiner Kontrolle unterliegt? Nein! KI wird in einzelnen Gesetzen thematisiert und einige Problemfragen können bereits mit der Anwendung von bestehenden Gesetzen gelöst werden. 

Phantasie ist wichtiger als Wissen, denn Wissen ist begrenzt.

Albert Einstein

So unterliegen die KI-Systeme genauso dem Datenschutzrecht wie alle anderen Systeme (mehr dazu unter Mythos Nummer 3). Auch gilt für KI-Systeme genauso das Diskriminierungsverbot wie für menschliche Entscheidungen (mehr dazu unter Mythos 4).

Auch für den kontrollierten Einsatz von KI in Unternehmen lassen sich entsprechende Rechtsrahmen finden. So z.B. die Einbindung von Betriebsräten:

  • Das Betriebsrätemodernisierungsgesetz hat für das Betriebsverfassungsgesetz (BetrVG) an verschiedenen Stellen Beteiligungsrechte des Betriebsrats bei der Implementierung von KI normiert. Zum einen hat der Arbeitgeber den Betriebsrat nach dem neuen § 90 Abs. 1 Nr. 3 BetrVG über die Planung von Arbeitsverfahren und -abläufen einschließlich des Einsatzes von KI rechtzeitig unter Vorlage der erforderlichen Unterlagen zu unterrichten. Zum anderen gilt durch den neuen § 80 Abs. 3 S. 2 BetrVG die Hinzuziehung eines Sachverständigen durch den Betriebsrat stets als erforderlich, soweit der Betriebsrat die Einführung oder Anwendung von KI zur Durchführung seiner Aufgaben beurteilen muss. Die ansonsten zur Hinzuziehung eines Sachverständigen notwendige Erforderlichkeitsprüfung entfällt somit für diese KI-bezogenen Fälle hinsichtlich des „Ob“ der Hinzuziehung, nicht jedoch hinsichtlich des Umfangs. 
  • Ebenfalls mit dem Betriebsrätemodernisierungsgesetz wurde für die Mitbestimmung des Betriebsrats bei den Auswahlrichtlinien ein neuer Abs. 2a in § 95 BetrVG eingefügt, der die Zustimmung des Betriebsrats auch bei Aufstellung dieser Richtlinien durch KI voraussetzt. Außerdem regelt § 87 Abs. 1 Nr. 6 BetrVG ein Mitbestimmungsrecht des Betriebsrats hinsichtlich der Einführung und Anwendung von technischen Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Arbeitnehmer zu überwachen. Der Einsatz von KI-Systemen als technische Einrichtung ist regelmäßig dann zur Überwachung bestimmt, wenn nicht noch menschliches Verhalten als Zwischenschritt erforderlich ist. Die Rechtsprechung des BAG (Beschluss v. 13. Dezember 2016 – 1 ABR 7/15, NZA 2017, 657) ging so weit, eine Mitbestimmungspflicht des Betriebsrats für die Freischaltung der Funktion „Besucher-Beiträge“ auf einer vom Arbeitgeber betriebenen Facebook-Seite anzunehmen, da dies eine Überwachung des Verhaltens und der Leistung der von ihm beschäftigten Arbeitnehmer durch eine technische Einrichtung ermögliche. Dieses Urteil wurde heftig diskutiert und kritisiert, führt aber letztendlich dazu, dass öffentlicher Meinungsaustausch auf Social-Media-Plattformen ohne die Zustimmung des Betriebsrats kaum mehr möglich ist. 

Aber auch eine Regulierung von KI-Anwendungen durch ein eigenständiges Gesetz rückt immer weiter in den Vordergrund. So hat im April 2021 die Kommission der Europäischen Union den Vorschlag für eine Verordnung zur Festlegung eines europaweit geltenden Gesetzes über KI vorgelegt (sog. KI-Verordnung). Dieser Vorschlag wird auch von der neuen Bundesregierung im Koalitionsvertrag ausdrücklich unterstützt, die KI als digitale Schlüsseltechnologie ansieht, die gefördert, aber auch reguliert werden soll. 

3. KI ist nicht mit dem Datenschutz vereinbar, da KI-Systeme unfassbare Mengen an Daten sammeln. 

Falsch. Solange KI-Anwendungen die Vorgaben des Datenschutzrechts einhalten können, sind sie auch mit diesem vereinbar. Richtig ist, dass KI eine sehr große Menge an Daten verarbeitet, da sie (z.B. für Methoden wie das maschinelle Lernen) auf der Grundlage von Daten sowie Datenbanken (die sog. Bibliotheken) trainiert wird und daraus bestimmte Muster erkennt. Wie für alle anderen Vorgänge oder Systeme, die Daten speichern, verarbeiten, herausgeben oder strukturieren, gelten auch hier der Datenschutz und die Vorschriften der DSGVO und des BDSG. 

Nach Art. 22 Abs. 1 DSGVO sind Entscheidungen mit rechtlichen Folgen oder erheblichen Beeinträchtigungen, soweit sie ausschließlich auf einer automatisierten Verarbeitung beruhen, grds. unzulässig. Diese Vorschrift verbietet es jedoch nicht, dass eine menschliche Entscheidung auf der Grundlage einer vorangegangenen automatisierten Datenverarbeitung ergeht.

Zu den Grundsätzen der DSGVO zählen zudem umfassende Dokumentations- und Rechenschaftspflichten. Damit Unternehmen, die KI-Anwendungen nutzen, diese Pflichten erfüllen können, muss auch die Funktionsweise des Algorithmus erfasst werden können. Somit müssen Gewichtungen der Kriterien, nach denen die KI dazulernt und entscheidet, genauso dokumentiert werden wie die Auswirkungen verschiedener Korrelationen auf die Ergebnisse. Darüber hinaus muss der Selbstlernprozess der KI abgebildet werden. 

Problematisch daran ist, dass Entwickler zwar nachvollziehen können, auf welcher Basis der Algorithmus aufbaut, nicht jedoch, wie sich dieser im Selbstlernprozess weiterentwickelt. Die ausschlaggebenden Faktoren einer von KI getroffenen Entscheidung sind dann unter Umständen nicht mehr nachvollziehbar. Diese „Blackbox-KI“ kann für Unternehmen zu einem starken Spannungsfeld zwischen den Vorteilen der KI-Anwendung und der Einhaltung von Datenschutzvorgaben führen. Das Problem kann gelöst werden, indem nicht personenbezogene Nutzerinformationen, sondern anonymisierte Daten verwendet werden (Crowdsourcing). 

4. KI ist der bessere Entscheider, da sie – anders als oftmals Menschen – immer anhand objektiver Kriterien vorurteilsfreie Entscheidungen trifft. 

Es kommt darauf an! Der Terminus Similarity Bias beschreibt die statistisch nachgewiesene Tatsache, dass Menschen andere Personen positiver bewerten, wenn sie ihnen ähnlich sind. Anders als eine KI-Technologie kann ein Mensch nicht diskriminierungsfrei programmiert werden. Auch nach entsprechenden Schulungen und Sensibilisierungen wird es einem Menschen nicht immer möglich sein, sich von Vorurteilen freizumachen. 

Dieser Vorteil von programmierbaren KI-Systemen zeigt sich vor allem in Bewerbungsverfahren. Personaler werden im Recruiting-Prozess häufig mit einer Vielzahl zu bearbeitender Bewerbungen konfrontiert, die große Mengen an Daten enthalten. Beim Aussortieren nach fachlicher Qualifikation und Persönlichkeit muss außerdem darauf geachtet werden, dass die Diskriminierungsverbote des Allgemeinen Gleichbehandlungsgesetzes (AGG) eingehalten werden. Demnach dürfen Beschäftigte und Bewerber nicht aus Gründen der Rasse, wegen der ethnischen Herkunft, des Geschlechts, der Religion oder Weltanschauung, wegen einer Behinderung, des Alters oder der sexuellen Identität benachteiligt werden (vgl. §§ 7 Abs. 1, 1 AGG). Wo Personaler evtl. von Vorurteilen oder Klischees (unbewusst) beeinflusst werden, kann ein KI-System grds. zur Objektivierung des Bewerbungsprozesses beitragen und Diskriminierung mindern. 

I’d rather see artificial intelligence than no intelligence. 

Michael Crichton

Voraussetzung dafür ist jedoch, dass das KI-System diskriminierungsfrei und neutral programmiert wurde und sichergestellt wird, dass Biases nicht im System festgehalten werden (also frei vom „Dirty Bias“ sind). Wird dies weder durch sorgfältige Prüfung der Datenbasis noch durch Testung sowie Training des Systems gewährleistet, kann KI durchaus auch diskriminieren. So ist z.B. beim Einsatz von KI-basierter Sprachanalyse-Software zu beachten, dass nur die vom Fragerecht des Arbeitgebers erfassten Persönlichkeitsmerkmale und nur die für die konkrete Stelle notwendigen Informationen ermittelt werden. 

Besondere Vorsicht ist z.B. geboten, wenn eine Software anhand von Wortwahl und Wortschatz ermittelt, welche ethnische Herkunft die Bewerber haben, oder ihnen durch eine Analyse der Stimmlage geschlechterspezifische Eigenschaften zuschreibt. Denn es muss sichergestellt sein, dass die Software ihre Bewertung nicht an nach § 1 AGG unzulässige Merkmale knüpft. Ansonsten kann ein derartiger Vorgang eine Diskriminierung indizieren (§ 22 AGG) und damit einen Schadensersatz- und Entschädigungsanspruch des diskriminierten Bewerbers gegen den ihn ablehnenden Arbeitgeber gem. § 15 AGG nach sich ziehen. 

5. Wenn Unternehmen objektiv arbeitende KI verwenden, führt das dazu, dass sie für Fehlhandlungen der KI und daraus resultierende Schäden der Arbeitnehmer bzw. Kunden nicht haften. 

Falsch. Die allgemeinen Haftungsregeln bestehen weiterhin. Gleichwohl gibt es noch keine Haftung einer E-Person, also eines KI-Systems an sich. Das EU-Parlament hatte einen dahingehenden Vorschlag aus dem Jahr 2017 im Jahr 2020 wieder zurückgezogen. Das geltende Recht hält flächendeckende Haftungsvorschriften für Schäden, die im Zusammenhang mit dem Einsatz von technischen Geräten oder Systemen entstanden sind, bereit. Haftungslücken in Bezug auf KI sind bislang nicht erkennbar. 

Die Verantwortung für die Haftung liegt grds. bei dem die KI-Systeme einsetzenden Unternehmen bzw. beim Programmierer. Infolgedessen muss das KI-System vom Arbeitgeber sorgfältig ausgewählt, vor dem Einsatz rechtskonform (insbesondere diskriminierungsfrei) trainiert und umfangreich im Unternehmen getestet und überwacht worden sein, um Haftungsrisiken auszuschließen. Arbeitgeber, die KI-Systeme einsetzen, sind dann von der direkten Haftung befreit. Ist dies nicht der Fall und begeht der Arbeitgeber hierdurch eine sog. Verkehrspflichtverletzung, kann er nach §§ 280 ff. BGB bzw. §§ 823 ff. BGB haften, wenn die Verletzung für den Schaden kausal ist und dem Arbeitgeber zugerechnet werden kann. Letzteres kann allenfalls dann bestritten werden, wenn sich die KI durch eigenständiges Weiterlernen immer weiter von dem Wissenstand, auf den sie ursprünglich programmiert wurde, entfernt hat und der Arbeitgeber daher gar keinen Einfluss mehr auf sie hat. 

Das Haftungsrisiko sollte Unternehmen aber keinesfalls von dem Einsatz von KI-Systemen abhalten. Vielmehr sollten Unternehmen sich zur Aufgabe machen, die Implementierung von KI zu priorisieren und sie in ihre Unternehmensstrategie einzubauen. Zudem erscheint es sinnvoll, drohende Risiken zu antizipieren und sich hinsichtlich der Gewährleistung und Haftung umfassend gegenüber den Designern bzw. Herstellern der KI abzusichern. 

Haben wir Ihr Interesse geweckt? Falls ja, ist vielleicht das Buch Arbeitswelt und KI 2030 etwas für Sie. In diesem Werk gewähren 78 anerkannte Experten aus Praxis und Forschung, darunter auch 7 Autoren von CMS, in 41 prägnanten Beiträgen tiefe Ein- und Ausblicke bezüglich des Einflusses von KI auf den Arbeitsalltag im Jahr 2030. In unserer Reihe Fünf Mythen zu ESG, Sustainability und New Law räumen wir monatlich mit Unwahrheiten und Klischees auf, die Ihnen als Rechtsanwender, z. B. im Bereich von Arbeitsrecht oder Compliance, begegnen. Nachhaltige Rechtsberatung am Puls der Zeit. 

In unserer Reihe „Fünf Mythen“ zu ESG, Sustainability und CSR räumen wir monatlich mit Unwahrheiten und Klischees auf, die Ihnen als Rechtsanwender, z.B. im Bereich von Arbeitsrecht oder Compliance, begegnen. Nachhaltige Rechtsberatung am Puls der Zeit. 

*Gemeint sind Personen jeder Geschlechtsidentität. Lediglich der leichteren Lesbarkeit halber wird künftig bei allen Bezeichnungen nur noch die grammatikalisch männliche Form verwendet.

Tags: Anti-Diskriminierung Datenschutz Digitale Transformation Gleichberechtigung KI Legal Tech


Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.