5. April 2017
Roboter Gesetz
TMC – Technology, Media & Communications

Roboter & KI vor dem Gesetz

Fortschritte in Robotik und Kl werden eifrig diskutiert, aber wie sieht die rechtliche Grundlage aus? Das Europäische Parlament äußert sich zum Thema.

In der Wirtschaft werden die Einsatzmöglichkeiten von intelligenten IT-Systemen und autonom agierenden Maschinen und Geräten derzeit lebhaft diskutiert. Die rasante technische Entwicklung in diesen Bereichen beflügelt die Phantasien der Anwender.

Auch die Einsatzbereiche sind äußerst vielfältig: Produktionsroboter in der Industrie, Drohnen und fahrende Lieferroboter in der Logistik und Lagerhaltung, Healthcare‑Roboter, autonome Fahrzeuge und viele mehr. Schon heute sind einige dieser Nutzungsszenarien keine Science-Fiction mehr. Besonders in den Bereichen Produktion und Logistik sind vielfach bereits intelligente Roboter am Werk.

Hintergrund zur gesetzlichen Grundlage für Roboter

Aus rechtlicher Sicht sind mit Hinblick auf die Robotik und die in den Robotern verbaute künstliche Intelligenz (KI) noch viele Fragen ungeklärt. Dies hat das Europäische Parlament dazu veranlasst, am 16. Februar 2017, mit 396 Ja-Stimmen (bei 123 Nein-Stimmen und 85 Enthaltungen) eine Entschließung mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015/2103(INL)) zu verabschieden.

Die Vorschläge des Parlaments basieren auf einem am 12. Januar 2017 veröffentlichten Bericht des Rechtsausschusses des Europäischen Parlaments. Die Kommission ist jedoch nicht verpflichtet, den Empfehlungen des Parlaments zu folgen. Tut sie dies nicht, muss sie diesen Schritt aber umfassend begründen.

Empfehlungen des Parlaments zu den neuen gesetzlichen Grundlagen

Die Empfehlungen des Europäischen Parlaments befassen sich mit allgemeinen Grundsätzen der Entwicklung von Robotik und der künstlichen Intelligenz zur zivilen Nutzung. Zudem greifen sie verschiedene Themen rund um die neue Technik auf. Zentrale Punkte sind dabei der Wunsch nach Festlegung ethischer Grundsätze für die Entwicklung und den Gebrauch von KI-gestützter Robotik und die Klärung der zahlreichen noch offenen Haftungsfragen.

In diesem Zusammenhang fordert das Parlament die Kommission auch dazu auf, langfristig über die Einführung eines eigenen rechtlichen Status für intelligente Roboter nachzudenken.

Außerdem wird in der Entschließung des Parlaments von der Einrichtung einer europäischen Agentur für Robotik und künstliche Intelligenz gesprochen. Diese soll dazu dienen, das erforderliche technische, ethische und regulatorische Fachwissen zur Verfügung zu stellen. Nur damit können rechtzeitig und fundiert Antwort auf die Herausforderungen und Chancen gegeben werden, die sich aus der Entwicklung der Robotik ergeben. Vorgeschlagen wird außerdem, eine Registrierungspflicht, sowie ein unionsweites Roboter-Register einzurichten. Auch eine Versicherungspflicht für intelligente Roboter soll eingeführt werden.

Ein ethischer Leitrahmen: „Charta über Robotik″

Nach Auffassung des Europäischen Parlaments ergeben sich aus der Entwicklung und Nutzung der Robotik eine Reihe von Spannungen oder Risiken. Dies gilt für Fragen der Sicherheit, der Privatsphäre, der Unversehrtheit, der Würde, der Autonomie und des Dateneigentums des Menschen.

Die Parlamentsmitglieder sind mehrheitlich der Auffassung, dass ein ethischer Leitrahmen für die Konstruktion und die Nutzung von Robotern benötigt wird. Sie unterbreiten der Kommission deshalb einen Vorschlag zur Errichtung einer sogenannten „Charta über Robotik″. In dieser soll ein erster ethischer Leitrahmen für die Konstruktion und die Nutzung von Robotern festgelegt werden.

Nach dieser Charta sollen sich Forscher auf dem Gebiet der Robotik selbst zu dem höchsten ethischen und professionellen Verhalten verpflichten. Sie sollen sich an die Grundsätze von Benefizienz (Roboter sollten im besten Interesse der Menschen handeln), Schadensvermeidung, Autonomie (Möglichkeit der autonomen Entscheidung über die Bedingungen der Interaktion mit Robotern) und Gerechtigkeit bei der Verteilung der Nutzen, die mit Robotik verbunden sind, halten.

In welcher Form diese Charta über Robotik letztlich Gesetz werden könnte, ist noch völlig offen. Die in der Charta enthaltenen Grundsätze sind sehr weit und allgemein gefasst. Die konkrete Ausgestaltung wird mit Sicherheit noch für viel Diskussionsbedarf sorgen.

Roboter vor dem Gesetz als „elektronische Person“? – Möglicherweise sinnvoll aus versicherungsrechtlicher Sicht

Besonders der Vorschlag des Parlaments, langfristig die Einführung eines eigenen Rechtsstatus für Roboter zu erwägen, dürfte für enormen Diskussionsbedarf sorgen. Sollten Roboter wirklich einen eigenen Rechtsstatus, der oft als „Elektronische Person“ oder „E-Person“ bezeichnet wird, erhalten?

Was zunächst sehr fremd und eigenartig klingt, ist bei genauem Hinsehen aus sehr praktischen Erwägungen heraus motiviert: Hat ein Roboter einen eigenen rechtlichen Status, kann er über diesen Status auch für seine Handlungen und Entscheidungen selbst verantwortlich gemacht werden. Verursacht er zum Beispiel einen Schaden, kann man den Roboter direkt auf Schadensersatz verklagen.

Das macht natürlich nur Sinn, wenn diese Schäden über eine Versicherung abgedeckt sind. Aus dem Grund schlägt das Parlament auch die Einführung einer Versicherungspflicht für intelligente Roboter vor. Aus juristischer Sicht, könnte die Einführung einer „Elektronischen Person“, gepaart mit einer Versicherungspflicht für intelligente Roboter, sinnvoll sein.

Die Entwicklung hochintelligenter vollautonomer Systeme scheint nur noch eine Frage der Zeit zu sein. Je weiter aber der Grad an Eigensteuerung zunimmt und je mehr Maschinen ihre eigenen Entscheidungen treffen, desto mehr wird die Verantwortung der Menschen in den Hintergrund rücken. Der Mensch wird seine Verantwortung immer öfter mit dem Hinweis darauf bestreiten, dass er sich voll und ganz auf die intelligente Technik verlassen durfte. Es ist schließlich der Sinn der Automatisierung und der KI, die so ausgestatteten Geräte nicht mehr ununterbrochen anleiten und überwachen zu müssen.

Zudem ist fraglich, ob eine lückenlose menschliche Kontrolle bei intelligenten und autonom agierenden, komplexen Systemen überhaupt noch machbar sein wird. Hinzu kommt, dass es gerade bei der Interaktion mehrerer intelligenter Systeme miteinander, teilweise nicht mehr möglich sein wird, im Schadensfall die verantwortliche Person oder den Verantwortungsbeitrag zu ermitteln. Hier tun sich Lücken auf, die mit heutigem Rechtsverständnis nicht zu schließen sind. Denn das Zivilrecht kennt bis jetzt nur die natürliche und die juristische Person, nicht aber die „E-Person″.

Roboter vor dem Gesetz als „elektronische Person“? Möglicherweise auch sinnvoll aus vertragsrechtlicher Sicht

Ein eigener Rechtsstatus für Roboter ist Musik aus einer noch nicht ganz nahen Zukunft. Auch auf dem Gebiet des Vertragsrechts könnte er aber nützlich sein. Geben Roboter Erklärungen im eigenen Namen ab, und handeln sie dabei mit eigener Rechtspersönlichkeit, so werden sie selbst Vertragspartner und damit Träger von Rechten und Pflichten. Damit würden Roboter auch selbst mit ihrem eigenen Vermögen haften und wären auch vor Gericht zu verklagen.

Dass dies einige Herausforderungen mit sich bringt, liegt auf der Hand. Es stellt sich zum Beispiel die Frage, ob und vor allem wie ein Roboter eigenes Vermögen aufbauen soll? Soll er für seine Arbeit entlohnt werden? Das hört sich aus heutiger Sicht dann doch alles noch sehr futuristisch und phantastisch an. Der wirtschaftliche Gedanke dahinter ist aber durchaus naheliegend, denn ein Roboter könnte aus seinem Lohn auch Steuern zahlen. Für die Aufrechterhaltung der Sozialsysteme könnte dies essentiell werden. Auch Versicherungsbeiträge für die Roboterhaftpflichtversicherung könnten aus diesem Lohn bestritten werden.

Der Roboter vor dem Gesetz – ein erster Ausblick

Das Europäische Parlament macht in seiner neuen Entschließung erste Vorschläge zu rechtlichen Regelungen über Roboter und die künstliche Intelligenz. Die Vorschläge betreffen vor allem Maschinen, die aufgrund ihrer Ausstattung mit einer KI und ihrer physischen Bewegungsfreiheit sehr autonom agieren und allein Entscheidungen treffen können.

Hier ist aus rechtlicher Sicht sicher noch lange nicht das letzte Wort gesprochen. Es werden Jahre vergehen, bevor entsprechende Gesetze tatsächlich verabschiedet werden. Die technische Entwicklung im Bereich der KI und der Robotik wird indessen weder auf nationale noch auf den europäischen Gesetzgeber warten und mit unverändertem Tempo weiter voranschreiten. Ob die technische Entwicklung die rechtliche Diskussion nicht schon bald überholt, bleibt abzuwarten.

Abseits der rechtlichen Fragen rund um die Robotik wird es für Juristen interessant sein zu sehen, in welcher Form die künstliche Intelligenz Einzug in unser eigenes Berufsleben hält. Viel ist derzeit von LegalTech und digitaler Transformation der Rechtsberatung die Rede. Betrachtet man die zahlreichen neuen Rechtsfragen, die sich im Zusammenhang mit der künstlichen Intelligenz und Robotik auftun, scheinen uns die Roboter allerdings auf der einen Seite so viel neue Arbeit zu machen, wie sie uns als intelligente Helfer auf der anderen Seite abnehmen können.

Allgemeine rechtliche Aspekte der Digitalisierung aus deutscher Sicht – mit einem besonderen Fokus auf die Herausforderungen für Rechtsabteilungen in Unternehmen – sind Gegenstand der Studie „Digital Economy & Recht″, die wir gemeinsam mit dem Bundesverband der Unternehmensjuristen (BUJ) erstellt haben.

Tags: künstliche Intelligenz Roboter Gesetz