Autonomie nicht mit Verantwortung gleichsetzen

Welche Potentiale bietet der Einsatz agentischer KI im Gesundheitswesen? Zu dieser Frage hat die Nationale Akademie der Wissenschaften Leopoldina im Juni ein Fokuspapier herausgegeben. Im Interview erklärt Mitautor Prof. Dr. Frederick Klauschen, Vorstand des Pathologischen Instituts der Ludwig-Maximilians-Universität München, die Chancen und Herausforderungen dieser neuen Anwendungen.

M&K: Agentische KI gilt als nächster Entwicklungsschritt der künstlichen Intelligenz. Worin unterscheidet sie sich konkret von den heute bereits eingesetzten KI-Anwendungen in Kliniken?

Prof. Dr. Frederick Klauschen: Der entscheidende Unterschied ist, dass heutige KI-Systeme in der Medizin meist einzelne, klar definierte Aufgaben übernehmen. Sie analysieren beispielsweise ein radiologisches oder pathologisches Bild oder fassen Befunde zusammen und erstellen daraus einen Arztbrief. Der Mensch gibt die jeweilige Aufgabe vor und entscheidet anschließend, was mit dem Ergebnis geschieht und wie die einzelnen Ergebnisse in die klinische Bewertung einfließen.

Agentische KI geht einen Schritt weiter. Sie kann innerhalb eines vom Menschen definierten Rahmens ein Ziel verfolgen, dafür selbstständig einzelne Handlungsschritte planen, unterschiedliche Informationsquellen und KI-Werkzeuge nutzen und diese Schritte koordinieren. Ein KI-Agent könnte beispielsweise relevante Patientendaten zusammentragen, Leitlinien und Medikamenteninformationen berücksichtigen, auf noch notwendige Untersuchungen hinweisen oder sie bereits selbständig in die Wege leiten und die resultierenden Befunde integrieren oder Empfehlungen aussprechen. Die medizinische Verantwortung bleibt dabei aber beim Arzt.

Die Leopoldina sieht großes Potential für agentische KI in Diagnostik, Therapie und administrativen Prozessen. In welchen Anwendungsfeldern erwarten Sie in den nächsten drei bis fünf Jahren die größten praktischen Fortschritte?