Sichere KI in der Medizin „Eines der wichtigsten Zukunftsprojekte unserer Zeit“

ChatGBT macht Künstliche Intelligenz (KI) auch für Normalverbraucher greifbar und zeigt dabei nur einen Bruchteil der Möglichkeiten, die KI mit sich bringt. Anwendungsbereiche in der Medizin öffnen ganz andere Dimensionen der Nutzung – doch nur, wenn entsprechende Anwendungen auch getestet, validiert und zertifiziert werden.

Künstliche Intelligenz soll vom Labor ans Bett gebracht werden und das möglichst schnell, ohne dabei Abstriche bei der Sicherheit machen zu müssen. Aus diesem Grund wird der TÜV-Verband nun Partner des „EU TEF-Health Projekts“. Im TEF-Health („Testing and Experimentation Facility for Health AI and Robotics“, dt. „Test- und Versuchseinrichtung für KI und Robotik im Gesundheitswesen“) entwickeln 51 Projekt-Partner aus neun verschiedenen EU-Mitgliedsataaten Test-, Validierungs- und Zertifizierungsverfahren von Produkten und Anwendungen mit Künstlicher Intelligenz im Gesundheitswesen.

Was ist TEF-Health?

TEF-Health befasst sich dabei mit den Punkten:

• KI-Ausrichtung, Sicherheit und Vertrauen,

• Vermeiden negativer Nebenwirkungen,

• Standardisierung,

• Zertifizierung und Testung,

• Bildung und Verbreitung des Wissens.

Zu den Partnern zählen renommierte Universitätskliniken wie die Berliner Charité, Behörden des Messwesens wie die Physikalisch-Technische Bundesanstalt (PTB) und amtlich anerkannte Prüforganisationen. Koordiniert wird das internationale Projektkonsortium vom Berlin Institute of Health in der Charité (BIH) unter der Leitung von Prof. Petra Ritter. Die Europäische Kommission fördert das Programm mit 60 Millionen Euro.

Der TÜV-Verband als TEF-Health-Partner

Gemeinsam mit dem TÜV AI Lab und Institutionen der europäischen Spitzenforschung arbeitet der TÜV-Verband nun bei TEF-Health daran, Zulassungsverfahren zu verbessern. Dabei bringen die Experten des Verbandes ihre Expertise bei der Prüfung und Zertifizierung von Medizinprodukten ein, für die sie als „Benannte Stellen“ oder auch „Notifizierte Stellen“ zuständig sind. Die Benannten Stellen in Deutschland, also Organisationen, die Anforderungen bezogen auf KI-Systeme prüfen, haben bereits erste Leitfäden entwickelt, mit deren Hilfe Parameter wie die Qualität der Trainingsdaten und die Cybersicherheit von KI-Systemen bewertet werden können. „Darauf aufbauend werden die Schwerpunkte unserer Mitarbeit im TEF-Health-Projekt, die Entwicklung von agilen Zertifizierungsverfahren von KI-Systemen im Medizingerätebereich sowie eine enge Zusammenarbeit mit anderen Projektpartnern bei der Definition und Messbarmachung von Qualitätsstandards sein“, erklärt Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands.

„Medizinprodukte mit Künstlicher Intelligenz ermöglichen eine bessere Diagnostik und effektivere Behandlungsmethoden. Mit entsprechenden Prüfverfahren gewährleisten wir die Sicherheit für die Patienten, helfen das Risiko von Fehldiagnosen oder Benachteiligung bestimmter Bevölkerungsgruppen zu reduzieren“, so Bühler weiter. Die Entwicklung der notwendigen Zertifizierungsverfahren sei deswegen eines der wichtigsten Zukunftsprojekte unserer Zeit.

TEF-Health als Maßnahme des „AI Acts“

Das Projekt startet im Januar 2023 und fällt damit mit den europäischen Abstimmungen zum „AI Act“ der EU zusammen. Dieser soll sicherstellen, dass auf dem EU-Markt verfügbare KI-Systeme sicher sind und die Grundrechte und Werte der Union wahren, wie es von Seiten des Europäischen Rats heißt. Deswegen sollen Faktoren wie die Funktionsfähigkeit, die Cybersicherheit und die Zuverlässigkeit von Hard- und Software-Produkten mit Künstlicher Intelligenz im TEF-Health-Projekt in realen Testumgebungen geprüft werden, wie Bühler erklärt. Mit dem Aufbau weiterer sogenannter „Quality and Testing Hubs“ in Deutschland und der EU könnten zudem Voraussetzungen geschaffen werden, die die Entwicklung und schnelle Marktdurchdringung von sicheren und vertrauenswürdigen KI-Anwendungen in Europa begünstigen.

(ID:49041441)