Künstliche Intelligenz (KI) ist aktuell eines der am meisten diskutierten Themen. Auch im medizinischen Bereich vergeht kaum eine Tagung, ohne dass darüber gesprochen wird.

Dr. Roland Roller arbeitet als Forscher und Projektleiter in der Sprachtechnologie-Gruppe am Deutschen Forschungszentrum für Künstliche Intelligenz GmbH (DFKI), Berlin. Seine Expertise liegt im Bereich der natürlichen Sprachverarbeitung und des maschinellen Lernens mit einem besonderen Interesse an biomedizinischen Themen und Anwendungsfeldern. Aktuell arbeitet er in den beiden Projekten BigMedilytics (Big Data for Medical Analystics) und vALID (Artificial-Intelligence-Driven Decision-Making in the Clinic: Ethical, Legal and Societal Challenges).

M&K: Was ist nach Ihrer Einschätzung im Bereich KI Hype und was ist aktuell tatsächlich nutzbar für Krankenhäuser?

Dr. Roland Roller: Die Vorstellungen von dem, was KI ist, gehen weit auseinander. Ein KI-System ist keine eierlegende Wollmilchsau, welches alle unsere Probleme lösen wird und im Allgemeinen ist es kein System, welches permanent im Hintergrund weiter lernt. In den meisten Fällen, wenn wir von KI-Systemen sprechen, handelt es sich um maschinelle Lernverfahren, häufig auch neuronale Netze, die einmal auf einem größeren Datensatz trainiert wurden. Ein solches System soll dann die Daten analysieren, um mögliche Korrelationen zu finden, die dann weitere Rückschlüsse erlauben. Daraus können beispielsweise Handlungsempfehlungen an einen Arzt hervorgehen. Dieser muss dann aber selbst entscheiden, was er damit anfangen will. Ein Hype-Thema ist KI im Medizinbereich tatsächlich geworden, wenn man sich die fast schon explosionsartige Zunahme der wissenschaftlichen Publikationen hierzu in den letzten Jahren vergegenwärtigt. Der genauere Blick zeigt aber, dass meist von spezifischen Einzelbeispielen aus medizinischen Forschungsprojekten berichtet wird. Die darin beschriebenen Systeme sind nicht unbedingt sofort einsatzfähig. Vielmehr werden diese Systeme oft für ein spezielles Problem und ein spezielles Setup optimiert. Das bedeutet also bei weitem noch nicht, dass wir ein KI-System haben, dass ein fertiges Produkt darstellt. Davon abgesehen müssten Systeme, die bei der Behandlung von Patienten eingesetzt werden, als Medizinprodukt angemeldet werden und strenge Richtlinien erfüllen.

Wenn Sie mich fragen, wie KI heute schon Nutzen im Krankenhaus bringt, dann sehe ich da in erster Linie Aufgaben außerhalb der Betreuung von Patienten bei der Optimierung von Prozessen. Die KI kann z.B. ganz entscheidend dazu beitragen, riesige Datenschätze, die in den letzten Jahren in Krankenhäusern angelegt wurden, auszuwerten.

Welche Chancen und welche Risiken sehen Sie derzeit beim Einsatz der KI im Krankenhaus?

Roller: Die große Chance in der Verwendung von KI sehe ich derzeit darin, wie eben schon angedeutet, Menschen zu unterstützen, um Prozesse effizienter zu gestalten oder Informationen zu finden. Hier sehe ich großes Potenzial. Also beispielsweise ein Programm, dass das Fachpersonal dabei unterstützt die Kodierung bei der Abrechnung durchzuführen, indem es Vorschläge macht oder mögliche Fehler findet. Oder eine semantische Suche, um besser die großen Datenmengen, insbesondere die Textdaten, zu durchsuchen. Ein Risiko sehe ich darin, dass der Einsatz der KI, z.B. das Übernehmen repetitiver Aufgaben, nicht dazu führt, dass Ärzte und Krankenschwestern mehr Zeit für die Patienten haben, sondern dass dies nur zu einer noch größeren Arbeitsverdichtung führt. Ein weiteres Risiko könnte in einer missverstandenen Entscheidungsunterstützung bestehen. Falsch wäre es, wenn ein Arzt die Behandlungstipps eines KI-Systems, auch wenn dieses sehr ausgereift ist, einfach übernimmt, statt sich auf seinen eigenen Verstand zu verlassen.

An welchen Projekten arbeiten Sie mit Ihren Kollegen? Wie kann damit konkret Patienten geholfen werden?

Roller: Derzeit arbeite ich an zwei Forschungsprojekten mit Bezug auf KI in Krankenhäusern. Das eine Projekt nennt sich BigMediyltics - Big Data for Medical Analytics. In diesem von Philips geleiteten und in Zusammenarbeit mit der Charité und einigen anderen Partnern vorangetriebenen EU-Projekt bin ich an einem Piloten beteiligt, der sich mit chronisch kranken Nierenpatienten beschäftigt. In diesem Piloten arbeite ich einerseits in dem Bereich Informationsextraktion, als auch im Bereich Entscheidungsunterstützung. Wir entwickeln also beispielsweise Methoden, um automatisiert Strukturen in unstrukturierte Informationen wie z.B. Arztbriefe zu bringen. Das Ziel ist, leichter auf diese Informationen zugreifen zu können. Außerdem arbeiten wir an Modellen, um mögliche Risikopatienten zu identifizieren; Patienten, die in den nächsten drei Monaten möglicherweise eine Abstoßung oder einen Verlust des Transplantates haben könnten. In dem Zusammenhang werden wir Experimente durchführen, um herauszufinden, wie ein solches KI-basiertes Tool das potentielle Patientenrisiko erkennen und den Mediziner in der klinischen Routine unterstützen kann. Leitfragen sind dabei: Welche Informationen benötigt der Mediziner und wie kann man Vertrauen aufbauen?

Worum geht es denn beim zweiten Projekt?

Roller: Dieses zweite Projekt - VALID - ist gerade in der Startphase. Ich finde die Thematik hier ebenfalls sehr spannend. Zusammen mit Partnern, u.a. wieder der Charité und anderen, beschäftigen wir uns mich mit ethischen, sozialen und rechtlichen Aspekten der KI in der Medizin. Gefördert wird das Projekt übrigens vom Bundesministerium für Bildung und Forschung. Eine der Fragen, die ich hier untersuchen werde, ist wie KI im klinischen Alltag eingesetzt werden könnte, welche Probleme im Zusammenhang damit auftauchen und wie man Vertrauen aufbauen kann. Wir betrachten dabei sowohl die Informationsbedürfnisse der Ärzte als auch der Patienten. Ich schätze, dass ich hierüber in einem Jahr sehr viel werde sagen kann.

Sie sind ja mittendrin beim Thema KI im Krankenhaus. Wenn Sie den Blick nach vorne richten und überlegen, was in den nächsten Jahren in dem Bereich passieren wird: Wohin geht die Entwicklung bei der KI im Gesundheitswesen bzw. im Krankenhaus? 

Roller: Derzeit arbeiten viele Methoden der KI mit datengetriebenen Lernverfahren, d.h. viele der Methoden benötigen eine sehr große Trainingsdatenmengen. Allerdings kann es schwierig sein, ausschließlich aus Daten etwas zu erlernen. Je nach Komplexität des Problems werden sehr viele Daten benötigt, um alle Situationen abzudecken. Allerdings sind große Datenmengen oft für Forscher nicht unbedingt so leicht zugänglich - und schon gar nicht mit sehr guter Qualität. Außerdem halte ich es hingegen für nicht so realistisch, dass ein KI-System das komplette medizinische Fachwissen auf der Grundlage von vielleicht zehntausend Trainingsbeispielen erlernt. Vielversprechender finde ich hier aus Forschungssicht die Integration von zusätzlichen Wissensquellen in existierende Modelle, um hierbei auf bestehendes Expertenwissen aufzubauen und zusätzlich benötigte Trainingsdaten einzusparen. 

Im Krankenhaus sollte die Entwicklung auf die lange Sicht dahin gehen, dass der Arzt auf Basis seines Wissens und seiner Erfahrungen korrigierend in die KI-basierte Entscheidungsunterstützung eingreift. Er lehnt z.B. eine Empfehlung des Systems zur Behandlung eines Nierenpatienten vor dem Hintergrund seines Wissens und seiner Erfahrungen ab. Damit die KI weiter lernt, müsste sie seine Entscheidung und Begründung aufnehmen und verarbeiten.

Es könnte auch sein, dass eine Behandlungsempfehlung gegeben wird, die der Patient aber nicht annehmen möchte, weil er etwas anderes bevorzugt. Insofern wäre es wünschenswert, dass ein unterstützendes KI-System dieses Feedback integrieren kann und wieder zu einer anderen Lösung kommt.

Das ist aber alles noch Zukunftsmusik. Denn gerade wenn es um die Behandlung von Patienten geht, spielt die Sicherheit eine zentrale Rolle. Die Systeme müssten entsprechend als Medizinprodukte geprüft und zertifiziert sein. Ein KI-System muss erklärbar und reproduzierbar sein, Benutzerstudien müssten erfolgreich durchgeführt werden, usw. Anders gesagt, bis das soweit ist, wird noch viel Wasser die Spree hinunterfließen.