Künstliche Intelligenz im Gesundheitswesen mit rechtlichen Risiken und Nebenwirkungen

Diagnostiziert die App besser als der Arzt? Operiert ein Roboter zuverlässiger als der Chirurg? Das sind einige der brennenden Fragen des Gesundheitswesens. Die disruptive Wirkung der Digitalisierung fordert die Akteure heraus. Einer der zentralen Aspekte: Das Potential der Künstlichen Intelligenz (KI). Neben technischen Herausforderungen stellen sich viele rechtliche Fragen für Hersteller und Anwender. Ist die Software ein Medizinprodukt? Werden Verträge automatisch geschlossen? Und wer haftet, wenn die selbstlernende KI falsch liegt?

Hintergrund

Anwendungen, die mit künstlicher Intelligenz arbeiten, entwickeln sich im Gesundheitswesen rasant. Das Potenzial ist enorm. KI wird zunehmend ausgefeilter, um das zu tun, was Menschen tun – oft nur effizienter, schneller und zu geringeren Kosten. Ein wichtiges Anwendungsfeld ist die Gesundheitsvorsorge. KI soll Menschen dabei helfen, gesund zu bleiben. So sollen etwa Fitness Tracker ein gesünderes Verhalten fördern und bei der Befolgung eines gesunden Lebensstils helfen. Aus dem Bereich der Früherkennung und Diagnostik ist KI schon heute nicht mehr wegzudenken. KI wird eingesetzt, um Krankheiten, wie etwa Krebs, genauer, zuverlässiger und früher zu erkennen. Dies geschieht – vereinfacht gesprochen – durch einen Abgleich der bei einem bestimmten Patienten erhobenen Daten – auch in Form von Bildern – mit großen Mengen von Daten anderer Patienten. Durch selbstlernende Systeme werden Zusammenhänge erkannt und Diagnosevorschläge ermittelt. Der letztgenannte Aspekt bildet einen weiteren wichtigen Pfeiler der KI-Anwendungen. So genannte Decision Support Software, die Methoden der prädiktiven Analytik nutzt, kann auf Basis umfangreicher Gesundheitsdaten klinische Maßnahmen unterstützen und Abläufe verschlanken. Hinzu kommen weitere Anwendungsfelder wie die Unterstützung der Behandlung von Patienten, das Monitoring von Therapieerfolgen oder der Einsatz von Robotertechnik, etwa bei Operationen.

Rechtliche Kernthemen

Aus rechtlicher Sicht sind bei der Entwicklung und Anwendung von digitalen Lösungen unter Nutzung von KI eine Vielzahl von Themen zu beachten. Häufig betritt man hier juristisches Neuland, vieles befindet sich im Fluss.

Eine zentrale Frage bei der Entwicklung von Software-Lösungen ist die regulatorische Einordnung. Hier ist vor allem zu klären, ob die Software ein Medizinprodukt ist. Das ist praktisch wichtig, weil Medizinprodukte nur in den Verkehr gebracht werden dürfen, wenn sie nach Durchführung eines Konformitätsbewertungsverfahrens eine CE-Kennzeichnung tragen. Wird ein Produkt, das als Medizinprodukt zu qualifizieren ist, ohne CE-Kennzeichen in den Verkehr gebracht, besteht das Risiko, dass ein Wettbewerber Unterlassung des Vertriebs verlangt. Außerdem stellt das Inverkehrbringen eine Ordnungswidrigkeit dar und kann sogar strafrechtliche Folgen haben. Nach dem deutschen Medizinproduktegesetz (MPG) – und auch nach der ab Mai 2020 anzuwendenden europäischen Medizinprodukteverordnung (MDR) – ist der bestimmungsgemäße Zweck der Software entscheidend. Grob gesagt gilt: Soll die Software Krankheiten erkennen oder behandeln, spricht viel für die Einordnung als Medizinprodukt – z.B. wenn sie bei der Diagnose unterstützt oder die Dosierung von Medikamenten berechnet. Stellt die Software nur Wissen bereit oder speichert sie nur Daten, liegt eher kein Medizinprodukt vor.

Ein weiterer Punkt aus medizinrechtlicher Sicht ist die Beachtung des ärztlichen Berufsrechts. Hier stellt sich die Frage, ob und inwieweit eine Software originär ärztliche Tätigkeiten nahezu übernehmen darf. Denn diese sind nach dem ärztlichen Berufsrecht Ärzten vorbehalten. Das ist einer der Gründe dafür, dass Software bislang letztlich nur Therapieempfehlungen gibt und die Letztentscheidung dem Arzt überlässt. Denn nur er darf ärztlich handeln. Und häufig wird auch nur eine Tätigkeit unter Einschaltung eines Arztes im Gesundheitssystem vergütet. Denkt man etwa an eine Diagnostik-Software, die gänzlich ohne Arzt auskäme, hätte es die Klinik oder die niedergelassene Praxis zumindest nach den gegenwärtigen Regularien schwer, für die Diagnostik eine angemessene Vergütung zu erhalten. In diesem Zusammenhang bemerkenswert ist der jüngste Vorstoß der deutschen Bundesregierung, die in dem Digitale Versorgungsgesetz (DVG) erstmals eine Vergütung für bestimmte digitale Medizinprodukte regeln möchte.

Die Einordnung einer Software als Medizinprodukt ist nicht nur für den Hersteller, sondern auch für den Anwender des Produkts – etwa die Praxis, die Klinik oder den Arzt – von großer Bedeutung. Denn damit unterfällt der Anwender den Vorgaben der Medizinproduktbetreiberverordnung und muss die dort geregelten Pflichten beachten.

Das Thema Datenschutz hat naturgemäß eine ganz besondere Relevanz bei KI-Lösungen – schließlich basieren sie üblicherweise auf der Analyse und dem Abgleich von konkreten Patientendaten mit einer Vielzahl von – zumeist anonymisierten und aggregierten – Daten anderer Patienten. Die Anforderungen an ein wirksames Einwilligungsmanagement bei der Erhebung und Nutzung von personenbezogenen Gesundheitsdaten sind durch das Inkrafttreten der Europäischen Datenschutzgrundverordnung (DSGVO) im Mai 2018 weiter gestiegen.

Auf zivilrechtlicher Ebene sind in Bezug auf KI und insbesondere die auf dieser Grundlage betriebene Robotik zahlreiche Fragen ungeklärt. Sie betreffen etwa das Zustandekommen von Verträgen, die Haftung für Fehler und Verletzungen sowie die Versicherung. Die insoweit bestehende Unsicherheit hat das Europäische Parlament dazu veranlasst, bereits im Februar 2017 eine Entschließung mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik zu verabschieden. Viel passiert ist seither nicht. Auf der Ebene der EU-Kommission wird das Thema KI und Robotik auf verschiedene Weise behandelt und gefördert – präzise Vorschläge für eine Änderung zivilrechtlicher Vorschriften gibt es, soweit ersichtlich, bisher allerdings nicht.

Bis auf Weiteres gelten daher die allgemeinen Regelungen. Hier geht es darum, die neuen Sachverhalte durch kreative Lösungsansätze mit den dafür häufig nicht ausgelegten zivilrechtlichen Regularien in Einklang zu bringen. Das betrifft etwa die Frage, mit wem bei Einsatz eines Roboters während einer Operation ein Behandlungsvertrag zustande kommt – schließt diesen Vertrag der Roboter selbst, oder ist es der Anwender? Und die Frage, wer haftet, wenn ein selbstlernendes System einen Fehler begeht, der beim Patienten zu einem Schaden führt – ist dies der Programmierer, der Anwender oder gar die Software selbst? Gerade diese noch ungeklärte Thematik beschäftigt Hersteller ebenso wie Anwender und Patienten. Für Kliniken gilt es hier, neue Risiken durch geeignete vertragliche Vorkehrungen mit Herstellern und Kooperationspartnern abzufedern.

Enormes Potential

Das Potential für KI im Gesundheitswesen ist enorm. Die unaufhaltsam voranschreitende Digitalisierung wird dafür sorgen, dass Anwendungen auf Basis von KI mehr und mehr Einzug in den Behandlungsalltag erhalten. Für die hier aktiven Hersteller, Betreiber und Anwender empfiehlt es sich, nicht nur die technischen Aspekte, sondern auch die rechtlichen Themen frühzeitig in den Blick zu nehmen. So können juristische Aspekte analysiert, bewertet und abgefedert werden – zur Vermeidung von rechtlichen Risken und Nebenwirkungen.