2. August 2018
Digitalisierung Gesundheitswesen Recht
Lifesciences

Digitalisierung im Gesundheitswesen: Von der Utopie zur Realität – Artificial Intelligence mit rechtlichen Risiken und Nebenwirkungen

Die Digitalisierung des Gesundheitswesens schreitet voran. Doch welche Fragen Im Bereich Recht ergeben sich durch die Artificial Intelligence?

Können Algorithmen vor Krankheiten schützen? Diagnostiziert die App besser als der Arzt? Operiert ein Roboter zuverlässiger als der Chirurg? Das sind einige der brennenden Fragen des Gesundheitswesens.

Die Digitalisierung schreitet stetig voran, ihre disruptive Wirkung fordert die Akteure heraus. Einer der wichtigsten Aspekte: Das Potential der Artificial Intelligence (AI) – Künstlichen Intelligenz (KI) – für Anwendungen rund um die Gesundheit. Neben technischen Herausforderungen stellen sich eine Reihe von rechtlichen Fragen zur Digitalisierung des Gesundheitswesens. Hier betritt man häufig juristisches Neuland. Ist die Software ein Medizinprodukt? Werden Verträge automatisch geschlossen? Und wer soll haften, wenn die selbstlernende App falsch liegt?

AI und Robotik im Gesundheitswesen insbesondere zur Früherkennung und Diagnostik

Anwendungen, die mit künstlicher Intelligenz arbeiten, entwickeln sich rasant. Dabei wird AI zunehmend ausgefeilter, um das zu tun, was Menschen tun – oft nur effizienter, schneller und zu geringeren Kosten.

Ein wichtiges Anwendungsfeld ist die Gesundheitsvorsorge. AI soll Menschen dabei helfen, gesund zu bleiben. So sollen Apps, wie etwa Fitness Tracker, ein gesünderes Verhalten fördern und bei der eigenständigen Verwaltung eines gesunden Lebensstils helfen. Ziel ist es, den Verbrauchern eine bessere Kontrolle über Gesundheit und Wohlbefinden zu geben.

Aus dem Bereich der Früherkennung und Diagnostik ist AI schon heute nicht mehr wegzudenken. AI wird auf verschiedene Arten eingesetzt, um Krankheiten, wie etwa Krebs, genauer, zuverlässiger und früher zu erkennen. Dies geschieht vereinfacht gesprochen durch einen Abgleich der bei einem bestimmten Patienten erhobenen Daten – auch in Form von Bildern – mit großen Mengen von Daten anderer Patienten. Durch selbstlernende Systeme werden Zusammenhänge erkannt und Diagnosevorschläge ermittelt. Ein Beispiel ist Watson for Health von IBM, das Gesundheitsorganisationen dabei unterstützt, kognitive Technologien mit großen Mengen von Gesundheitsdaten einzusetzen. Googles DeepMind Health Technologie kombiniert maschinelles Lernen und System-Neurowissenschaften, um mit Hilfe von AI das menschliche Gehirn nachzuahmen und Akteuren im Gesundheitswesen Diagnose- und Entscheidungshilfen zu unterbreiten.

Der letztgenannte Aspekt bildet einen weiteren wichtigen Pfeiler der AI-Anwendungen im Gesundheitswesen. So genannte Decision Support Software, die Methoden der prädiktiven Analytik nutzt, kann auf Basis umfangreicher Gesundheitsdaten klinische Entscheidungen und Maßnahmen unterstützen und Abläufe verschlanken. Daneben können durch die Erkennung von Mustern Patienten identifiziert werden, bei denen das Risiko bestimmter Erkrankungen oder einer Verschlechterung des Gesundheitszustands aufgrund von Lebensstil, Umwelt, Genomik oder anderen Faktoren besteht.

Hinzu kommen weitere Anwendungsfelder wie die Unterstützung der Behandlung von Patienten, etwa durch die Verbesserung von Behandlungsplänen, das Monitoring von Therapieerfolgen oder den Einsatz von Robotertechnik, etwa bei Operationen.

Digitalisierung des Gesundheitswesens: Rechtliche Kernthemen rund um AI

Aus rechtlicher Sicht sind bei der Entwicklung und Umsetzung von digitalen Lösungen unter Nutzung von AI eine Vielzahl von Themen zu beachten. Nicht selten betritt man hier juristisches Neuland, vieles befindet sich noch im Fluss.

Eine zentrale Frage bei der Entwicklung von Software-Lösungen ist die regulatorische Einordnung des Produkts. Hier ist vor allem zu klären, ob die Software ein Medizinprodukt ist. Das ist praktisch wichtig, weil Medizinprodukte nur in den Verkehr gebracht werden dürfen, wenn sie nach Durchführung eines Konformitätsbewertungsverfahrens eine CE-Kennzeichnung tragen. Wird ein Produkt, das als Medizinprodukt zu qualifizieren ist, ohne CE-Kennzeichen in den Verkehr gebracht, besteht das Risiko, dass ein Wettbewerber Unterlassung des Vertriebs verlangt. Außerdem stellt das Inverkehrbringen eine Ordnungswidrigkeit dar und kann sogar strafrechtliche Folgen haben.

Nach dem deutschen Medizinproduktegesetz (MPG) – und auch nach der demnächst Geltung beanspruchenden europäischen Medizinprodukteverordnung (MDR) – ist der bestimmungsgemäße Zweck der Software entscheidend. Grob gesagt gilt: Soll die Software Krankheiten erkennen oder behandeln, spricht viel für die Einordnung als Medizinprodukt – zum Beispiel, wenn sie bei der Diagnose unterstützt, Entscheidungen über therapeutische Maßnahmen erleichtert oder die Dosierung von Medikamenten berechnet. Stellt die Software hingegen nur Wissen bereit oder speichert sie nur Daten, liegt eher kein Medizinprodukt vor. Da der Hersteller die Zweckbestimmung festlegt, bestehen gewisse Spielräume durch die Funktionsgestaltung der Anwendung.

Weitere Punkte aus medizinrechtlich-regulatorischer Sicht sind die Beachtung des ärztlichen Berufsrechts, wofür die Abgrenzung der ärztlichen von der nicht-ärztlichen Tätigkeit eine wichtige Rolle spielt, Aspekte der Pharmakovigilanz bei der Generierung umfangreicher Daten und – was zunehmend wichtig für die finanzielle Tragfähigkeit von Softwarelösungen ist – Fragen der Erstattung.

Das Thema Datenschutz hat naturgemäß eine ganz besondere Relevanz in diesem Zusammenhang – schließlich basieren AI Lösungen üblicherweise auf der Analyse und dem Abgleich von konkreten Patientendaten mit einer Vielzahl von – zumeist anonymisierten und aggregierten – Daten anderer Patienten. Die Anforderungen an ein wirksames Einwilligungsmanagement bei der Erhebung und Nutzung von personenbezogenen Gesundheitsdaten sind durch das Inkrafttreten der Europäischen Datenschutzgrundverordnung (DSGVO) im Mai 2018 noch weiter gestiegen.

Auf zivilrechtlicher Ebene sind in Bezug auf AI und insbesondere die auf dieser Grundlage betriebene Robotik zahlreiche Fragen ungeklärt. Sie betreffen etwa das Zustandekommen von Verträgen, die Haftung für Fehler und Verletzungen sowie die Versicherung. Die insoweit bestehende Unsicherheit hat das Europäische Parlament dazu veranlasst, am 16. Februar 2017 eine Entschließung mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015/2103(INL)) zu verabschieden. Auf der Ebene der EU Kommission wird das Thema AI und Robotik auf verschiedene Weise behandelt und gefördert – präzise Vorschläge für eine Änderung zivilrechtlicher Vorschriften gibt es, soweit ersichtlich, bisher allerdings nicht. 

Bis auf Weiteres gelten daher die allgemeinen Regelungen. Hier gilt es, die neuen Sachverhalte durch kreative Lösungsansätze mit den dafür häufig nicht ausgelegten zivilrechtlichen Regularien in Einklang zu bringen. Das betrifft etwa die Frage, mit wem bei Einsatz eines Roboters während einer Operation ein Behandlungsvertrag zustande kommt, oder die Frage, wer haftet, wenn ein selbstlernendes System einen Fehler begeht, der beim Patienten zu einem Schaden führt – ist dies der Programmierer, der Anwender oder gar die Software selbst? Gerade diese – noch ungeklärte – Thematik beschäftigt Programmierer, Hersteller, Anwender und Patienten.

Fazit zur Digitalisierung des Gesundheitswesens: Rechtsthemen frühzeitig in Angriff nehmen

Das Potential für AI im Gesundheitswesen ist enorm. Die unaufhaltsam voranschreitende Digitalisierung wird dafür sorgen, dass Anwendungen auf Basis von AI mehr und mehr Einzug in den Behandlungsalltag erhalten. Für die in diesem Feld aktiven Akteure empfiehlt es sich, von vorn herein nicht nur die technischen Aspekte, sondern auch und gerade die rechtlichen Themen frühzeitig in den Blick zu nehmen. So können juristische Risiken analysiert, bewertet und abgefedert werden – und vielleicht hilft dabei dann ja auch eine Anwendung mit Legal Tech, denn AI im Rechtswesen ist bekanntlich auch auf dem Vormarsch…

Sehen Sie auch das Video aus der Edge Reihe zum Thema „AI im Gesundheitswesen – Bleibt es bei der Utopie?″.

Tags: AI Artificial Intelligence Digitalisierung Gesundheitswesen Recht

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.