TEF-Health steht für „Testing and Experimentation Facility for Health AI and Robotics“ (tefhealth.eu). Ziel des mit 60 Millionen Euro geförderten Projektes ist es, Test-, Validierungs- und Zertifizierungsverfahren von Produkten und Anwendungen mit Künstlicher Intelligenz im Gesundheitswesen zu entwickeln. „Der TÜV-Verband und das TÜV AI Lab arbeiten bei TEF-Health gemeinsam mit Institutionen der europäischen Spitzenforschung an einem der wichtigsten Zukunftsprojekte unserer Zeit“, sagt Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands. „Medizinprodukte mit Künstlicher Intelligenz ermöglichen eine bessere Diagnostik und effektivere Behandlungsmethoden. Mit entsprechenden Prüfverfahren gewährleisten wir die Sicherheit für die Patient:innen, helfen das Risiko von Fehldiagnosen oder Benachteiligung bestimmter Bevölkerungsgruppen zu reduzieren und bringen so medizinische KI-Anwendungen schneller aus dem Labor ans Bett. Dafür müssten technische Verfahren entwickelt und Zulassungsverfahren verbessert werden. „In realen Testumgebungen sollen Parameter wie Funktionsfähigkeit, Cybersicherheit und Zuverlässigkeit von Hard- und Software-Produkten mit Künstlicher Intelligenz geprüft werden“, sagt Bühler. Damit leisten die Projektpartner einen wichtigen Beitrag für den KI-Standort Deutschland und Europa.

Am TEF-Health Projekt sind 51 Partner aus neun EU-Ländern beteiligt, darunter renommierte Universitätskliniken wie die Berliner Charité oder das Karolinska-Institut aus Schweden, Behörden des Messwesens wie die Physikalisch-Technische Bundesanstalt (PTB) und amtlich anerkannte Prüforganisationen. Koordiniert wird das internationale Projektkonsortium vom Berlin Institute of Health in der Charité (BIH) unter der Leitung von Prof. Petra Ritter. Die Experten der TÜV-Organisationen bringen ihre Expertise bei der Prüfung und Zertifizierung von Medizinprodukten ein, für die sie als „Benannte Stellen“ zuständig sind. Für die Prüfung von KI-Systemen in der Medizin haben die Benannten Stellen in Deutschland bereits erste Leitfäden entwickelt, mit denen unter anderem die Qualität der Trainingsdaten und die Cybersicherheit bewertet werden kann. „Darauf aufbauend werden die Schwerpunkte unserer Mitarbeit im TEF-Health-Projekt, die Entwicklung von agilen Zertifizierungsverfahren von KI-Systemen im Medizingerätebereich sowie eine enge Zusammenarbeit mit anderen Projektpartnern bei der Definition und Messbarmachung von Qualitätsstandards sein“, sagt Bühler.

Der Projektstart im Januar 2023 fällt mit den europäischen Abstimmungen über die Gestaltung des „AI Acts“ zusammen. Mit der EU-Verordnung sollen die Risiken von Produkten und Anwendungen mit Künstlicher Intelligenz eingedämmt und ein einheitlicher Rechtsrahmen für die Entwicklung vertrauenswürdiger KI-Systeme geschaffen werden. Der TÜV-Verband setzt sich dafür ein, dass Künstliche Intelligenz auch in anderen Anwendungsgebieten neben der Medizin geprüft wird, wenn Risiken für die Nutzenden bestehen. Das betrifft unter anderem die Fahrzeugtechnik im Bereich des automatisierten Fahrens, industrielle KI-Anwendungen in der Robotik wie so genannte Cobots oder KI-Systeme in kritischen Infrastrukturen wie der Energie- und Wasserversorgung. Bühler: „Mit dem Aufbau weiterer ‚Quality and Testing Hubs‘ in Deutschland und der EU schaffen wir die Voraussetzungen für die Entwicklung und schnelle Marktdurchdringung sicherer und vertrauenswürdiger KI-Anwendungen in Europa.“