ZVEI KI in der Medizintechnik: Wie ist das eigentlich mit der CE-Kennzeichnung?

Der Begriff KI deckt eine Vielfalt von Konzepten und technischen Umsetzungen ab. Diese Tatsache hat auch Auswirkungen auf die CE-Kennzeichnung von Medizinprodukten, die Künstliche Intelligenz nutzen. Welche Kriterien können angesetzt werden? Sind diese übertragbar?

Einerseits handelt es sich bei KI um Software. Software kann als Teil eines Medizinprodukts unter die CE-Kennzeichnung des Gesamtprodukts fallen oder in Form einer eigenständigen Software als Medizinprodukt mit einer eigenen CE-Kennzeichnung versehen werden. Mit beiden Fällen hat die Medizinprodukte-Industrie über die letzten 25 Jahre bereits Erfahrung gesammelt. Durch den Geltungsbeginn der EU-Verordnung über Medizinprodukte (MDR) ändern sich zwar viele Anforderungen und Prozesse für die Konformitätsbewertung. Die grundsätzliche Herangehensweise bleibt aber erhalten.

Andererseits greift diese Betrachtungsweise jedoch zu kurz. Denn es geht nicht immer einfach um Software für den Betrieb eines Medizinprodukts, sondern in einigen Fällen vielleicht auch um ein lernendes System, das sich weiterentwickelt, je mehr Datensätze eingespeist werden. Zudem gibt es für KI an sich keine trennscharfe Definition, was die Bewertung im Rahmen einer Konformitätsbewertung mit den klaren Zielen Sicherheit und Qualität des Endprodukts erschwert.

Welche Einsatzgebiete gibt es für KI in der Medizintechnik?

Es gibt allgemein zwei große Anwendungsbereiche in der Medizintechnik: Das eine sind regelbasierte Systeme mit KI-Unterstützung, das andere vollständig automatisierte Abläufe mithilfe von Künstlicher Intelligenz (KI).

Regelbasierte Systeme helfen bereits heute dabei, aus Messwerten die richtigen Entscheidungen zu treffen. Diese „Regeln“ sind medizinische Leitlinien, die die angemessene Behandlung eines Patienten bei bestimmten klinischen Werten beschreiben. Sie wurden von Experten in einem transparenten Prozess festgelegt. Dieser lässt sich daher in einer Software abbilden und damit automatisieren, ohne in die Entscheidungsmacht des menschlichen Bedieners einzugreifen. Eine KI kann anstelle eines Arztes die klinischen Werte erfassen und mit den Regeln der Leitlinie vergleichen. Dieser Vergleich führt dann zu einer Behandlungsempfehlung, die wiederum von einer qualifizierten Person geprüft werden muss. Erst dann erfolgt eine Aktion. Im Rahmen der CE-Kennzeichnung fällt der leitlinienbasierte Vorschlag für eine Bewertung deshalb voraussichtlich in eine andere Risikoklasse als eine automatisierte, durch KI-Software ausgelöste und ausgeführte Aktion.

Bei automatisierten Abläufen durch KI wird die Situation deshalb komplexer. Zum einen sind solch lernende Systeme erst seit relativ kurzer Zeit so leistungsfähig, dass sie auch in der Medizin zum Einsatz kommen können. Sie müssen in der Lage sein, mehrere Parameter parallel zu beobachten und zu interpretieren. Teilweise sind Anwendungen für automatisierte Abläufe mit KI den zuvor beschriebenen regelbasierten Systemen sehr ähnlich. Das Ziel ist hier aber, den Bediener des Medizinprodukts bei dessen Einsatz zu entlasten. Die Anwendungen sollen das menschliche Personal also verstärken, ähnlich wie ein „co-working robot“. Hier besteht die Herausforderung darin, dass die KI-Anwendung transparent und nachvollziehbar arbeiten muss, denn die medizinische Verantwortung für die Anwendung trägt der Mensch, der das System einsetzt. Ein Beispiel ist der „automatische externe Defibrillator“ (AED) zur Anwendung durch Laien, wie sie zum Beispiel in U-Bahnstationen oder in Bürogebäuden zu finden sind.

Warum ist KI im Rahmen der CE-Kennzeichnung so schwierig?

Diese Frage würde sich nicht stellen, wenn KI immer nach demselben Prinzip arbeiten würde wie die bisher eingesetzte Software. Bei eindeutigen und immer gleichen Ursache-Wirkungs-Ereignissen, z. B. „wenn Wert x, dann Aktion Y“, kann man die korrekte Umsetzung in Softwarecode dokumentieren und die richtige Funktionsweise überprüfen.

Bei KI-Systemen spielt häufig aber auch die Einordnung durch den Betrachter, in diesem Falle der KI, eine Rolle. Viele dieser Systeme basieren auf dem sogenannten maschinellen Lernen. Die KI-Software wurde nicht Zeile für Zeile programmiert. Sie hat vielmehr aus der maschinellen Auswertung bereits vorhandener Daten gelernt, z. B. „Wenn Wert x, dann sinnvolle Aktion Y, aber wenn Wert z, dann sinnvolle Aktion A“. In der Anwendung bewertet die KI-Software dann auf der Basis dieser maschinell gelernten Regeln, ob der Wert gleich x oder z, oder hinreichend ähnlich zu beiden Referenzwerten ist. Auf Basis dieser Bewertung wird dann zwischen Aktion Y oder A ausgewählt.

Ein solcher Lern-Algorithmus muss im Rahmen der Konformitätsbewertung ganz anders behandelt werden als eine fest programmierte Software mit klaren Regeln. Die Risikobewertung, die Technische Dokumentation und auch die Qualitätssicherung müssen anders aufgesetzt werden als bisher.

KI in der Medizintechnik: geht das mit der CE-Kennzeichnung?

Die Hersteller müssen sich bewusst sein, dass es noch keine erprobten und allgemein akzeptierten Vorgehensweisen für die Konformitätsbewertung von Medizinprodukten mit KI gibt. In der Medical Device Coordination Group (MDCG) der Europäischen Kommission wird bereits an einer MDCG Guidance zum Thema Künstliche Intelligenz und Medizinprodukte gearbeitet. Fertiggestellt ist dieses Dokument jedoch noch nicht.

Jeder Hersteller sollte sehr genau prüfen, welche Art von KI er verwendet, und wie diese Form der KI im Zusammenspiel mit dem Medizinprodukt zu verstehen und bewerten ist. Eine genaue und sorgfältige Betrachtung der Zweckbestimmung und der Risikobewertung ist der erste und wichtige Schritt.

In Summe kann man sagen, dass eine Konformitätsbewertung für Medizinprodukte mit KI bei sorgfältiger Vorgehensweise grundsätzlich möglich ist. Dennoch bedarf es einer genauen Prüfung im Einzelfall und der Festlegung anwendbarer Kriterien. Zudem braucht es noch eine klare Definition von KI, die der Bewertung zugrunde gelegt werden muss.

Dieser Beitrag stammt von unserem Partnerportal Devicemed.

* Hans-Peter Bursig ist Geschäftsführer des Fachverbands „Elektromedizinische Technik“ im ZVEI – Zentralverband der Elektrotechnik- und Elektronikindustrie e.V.

(ID:46949534)