Der Einsatz von Künstlicher Intelligenz (KI) in der Medizin verspricht großen Nutzen für Patientinnen und Patienten.

KI-basierte Assistenzsysteme unterstützen das frühe Erkennen von Krankheiten, ermöglichen ein schnelles Auswerten großer Mengen von Bild- und Labordaten und bieten die Chance für individuelle Therapien. Mit einer verbesserten Gesundheitsversorgung mit Hilfe von KI und den damit verbundenen Herausforderungen für die IT-Sicherheit befasst sich das aktuelle Whitepaper „Sichere KI-Systeme für die Medizin“. Veröffentlicht hat es die vom Bundesministerium für Bildung und Forschung initiierte Plattform Lernende Systeme (PLS), in der verschiedene Arbeitsgruppen zeigen, wie KI im Sinne von Mensch und Gesellschaft gestaltet werden kann. Jörn Müller-Quade, Professor für Kryptographie und Sicherheit am KIT, ist einer der Autoren des Whitepapers. Er leitet, gemeinsam mit der an der Universität Tübingen lehrenden Philosophin Jessica Heesen, die interdisziplinär besetzte Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik der PLS.

„KI-Systeme brauchen große Datenmengen, damit sie aus ihnen lernen können. Die Herausforderung besteht darin, die Patientendaten sowohl zu nutzen als auch sie zu schützen“, sagt Müller-Quade. Durch die Vielzahl der Akteure im Gesundheitswesen haben viele Personen potenziell Zugriff auf die Patientendaten. „Dies macht es schwierig, sensible Gesundheitsdaten vor unberechtigtem Zugriff zu schützen“, so der Kryptograph. Es gebe informationstechnologische Lösungen für die sichere Datenübertragen und die Zugangskontrolle, „wenn aber die Endgeräte, der PC der Apotheke, der Krankenversicherung oder des Mediziners, nicht sicher sind, werden wir Probleme haben, die zu Datenskandalen führen könnten“, sagt Müller-Quade, der am KIT die Forschungsgruppe Kryptographie und Sicherheit leitet und Initiator des Kompetenzzentrums für IT-Sicherheit KASTEL am KIT ist. „Wichtig wäre eine Produkthaftung, damit Hersteller sich in der Verantwortung sehen, sicherere Produkte zu entwickeln.“

Für ebenfalls notwendig hält er die Zertifizierung von KI-Systemen und -Datenbanken in der Medizin sowie der elektronischen Patientenakte (ePA) durch unabhängige Prüfstellen. Eine besondere Herausforderung sieht der Informatiker im Einsatz kontinuierlich weiter lernender KI-Systeme, deren Software sich im Betrieb ohne menschliche Überwachung verändert. Die Entscheidungen eines solchen ein KI-Systems sollten durch die behandelnden Menschen daraufhin überprüft werden, ob sie nachvollziehbar sind. Hier würde eine erklärbare KI enorm helfen, so der Wissenschaftler. „Ärztinnen und Ärzte dürfen das vorgeschlagene Ergebnis nicht unreflektiert übernehmen.“

„Wenn wir intelligente IT in der Medizin nutzen wollen, werden Datenskandale, obwohl sehr auf Sicherheit geachtet wird, voraussichtlich nicht ausbleiben“, befürchtet Müller-Quade. Ihre Auswirkungen ließen sich aber einschränken, wenn Gesundheitsdaten aus Datenlecks nicht zum Nachteil der Patienten genutzt werden dürften. Es gelte Diskriminierung aufgrund von Kenntnissen aus solchen Datenlecks zu verhindern, etwa wenn jemand aufgrund von bekannt gewordenen Vorerkrankungen eine Arbeitsstelle nicht bekommt. „Es wäre wichtig, künftig auf technischer Ebene nachweisen zu können, dass ein Algorithmus diskriminierungsfrei entscheidet.“

Mit der geplanten Einführung der ePA erhalten Patientinnen und Patienten die volle Kontrolle über ihre Gesundheitsdaten, die dann auch auf dem eigenen PC gespeichert sind. Umso mehr gelte es, bestimmte Grundregeln der IT-Sicherheit einzuhalten – immer das neueste Betriebssystem zu nutzen und sichere Passwörter zu verwenden –, andernfalls könne der PC zum Einfallstor für Angreifer werden und die Krankengeschichte offenliegen.

Die Veröffentlichung veranschaulicht in einem fiktiven Anwendungsszenario „Mit KI gegen Krebs“ den möglichen Einsatz von KI am Beispiel eines Lungenkrebspatienten. Sie wendet sich an politische Entscheiderinnen und Entscheider und bietet darüber hinaus allen Interessierten Einblick in das Thema Datenmanagement und IT-Sicherheit in der Medizin:

Jörn Müller-Quade et al. (Hrsg.): Sichere KI-Systeme für die Medizin – Whitepaper aus der Plattform Lernende Systeme, München 2020.

Das Whitepaper steht zum Download bereit unter: https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/AG3_6_Whitepaper_07042020.pdf