Whitepaper „Healthcare Agents“: die neue Generation der KI-Assistenz

Anbieter zum Thema

Fraunhofer-Institut IAIS

Siemens Healthineers

adesso SE

Governikus GmbH & Co. KG

Healthcare-Agenten, die in Echtzeit auf Ereignisse in komplexen Umgebungen reagieren und Entscheidungen treffen können? In einem aktuellen Whitepaper haben Expertinnen und Experten von Fraunhofer IAIS, adesso SE und Siemens Healthineers jetzt Einsatzmöglichkeiten und Herausforderungen solcher agentenbasierter Systeme im Gesundheitswesen untersucht.

Angesichts der Herausforderungen in der Patientenversorgung – immer mehr zu Versorgende, steigende Kosten und Fachkräftemangel – verspricht der Einsatz künstlicher Intelligenz Abhilfe. Bereits jetzt zeichnet sich ab, wie umfangreich etwa Large Language Models (LLMs) unterstützen können. Und doch ist das erst der Anfang: Expertinnen und Experten des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS, der adesso SE und der Siemens Healthineers AG sehen schon die nächste Generation der medizinischen Assistenz – die KI-Agenten. In einem aktuellen Whitepaper erläutern sie, worin sich die neuen Agenten von LLMs unterscheiden, wie sie eingesetzt werden können, aber auch, welche Herausforderungen sich daraus ergeben.

Worin sich KI-Agenten von LLMs unterscheiden

Wodurch zeichnen sich die Healthcare-KI-Agenten aus? Anders als LLMs verfügen sie über ein Langzeitgedächtnis, können also patientenspezifische Daten langfristig erfassen. Sie sind in der Lage, ihre Handlungen autonom zu planen, können komplexe Probleme strukturieren, Aufgaben in Teilziele zerlegen und für die Lösung auch auf externe Werkzeuge zugreifen.

„So können KI-Agenten medizinische Diagnosen, Therapieoptionen oder Forschungsstrategien iterativ entwickeln und optimieren, anstatt lediglich statische Empfehlungen auszugeben“, erläutert Dario Antweiler, Teamleiter Healthcare Analytics am Fraunhofer IAIS.

Ein Beispiel für den Einsatz der Agenten ist die Erstellung von Arztbriefen. Rund 150 Millionen solcher Arzt- oder auch Entlassbriefe würden jährlich in Deutschland geschrieben. Das IAIS biete dafür bereits heute einen LLM-gestützten Generator, mit dessen Hilfe Arztbriefe erstellt werden können, die höchsten Qualitätsstandards entsprächen, verdeutlicht Antweiler.

Clinical NLP – Natural Language Processing in der Medizin

KI soll Arztbriefe schreiben

„Im Whitepaper zeigen wir jetzt auf, wie KI-Agenten künftig in der Lage sein werden, Arztbriefe entlang der gesamten Prozesskette zu erstellen – von der Informationsanalyse des Patientenaufenthalts über die Datenextrahierung aus externen Quellen bis hin zur Nutzung eines Codierungswerkzeugs, um passende ICD- und OPS-Codes zu generieren, die der Strukturierung und einheitlichen Benennung medizinischer Diagnose und Behandlungen dienen.“

Einsatzgebiete für KI-Agenten und für LLMs

Als weitere mögliche Anwendungen werden die Entscheidungsunterstützung in Diagnose und Therapie, Medikationsmanagement oder die Informationsextraktion für die Befüllung von Qualitätsregistern aufgeführt. Zu beachten sei, dass die Einbindung von KI in den Behandlungsprozess, also etwa bei der Unterstützung von Entscheidungen, die Klassifizierung als Medizinprodukt erfordert.

Doch nicht in allen Fällen ist der Einsatz von KI-Agenten nötig oder angeraten, im Whitepaper werden die unterschiedlichen Eigenschaften und Eignungen der beiden Systeme erläutert. So seien LLMs besonders gut für Aufgaben geeignet, die eine Verarbeitung und Generierung von Text basierend auf bestehendem Wissen erfordern, so Co-Autorin Sina Mackay, Data Scientist am Fraunhofer IAIS. Wie in dem Papier ausgeführt wird, bieten LLMs eine „robuste und schnell integrierbare Lösung“ – qualitative hochwertige Prompts vorausgesetzt. Insgesamt sind demnach „LLMs vor allem für einfachere, textbasierte bzw. unimodale Aufgaben geeignet, während KI-Agenten in komplexeren, interaktiven und dynamischen Szenarien Vorteile bieten.“

Als besondere Herausforderungen beim Einsatz von KI-Agenten sind IT- und Cybersicherheit, Datenschutz, aber auch interoperable Schnittstellen (zur Verwendung externer Werkzeuge), Vertrauenswürdigkeit – gerade bei den weit komplexeren Abläufen – sowie Schulung des Personals und Change-Management beschrieben.

Die Autorinnen und Autoren kommen zu dem Schluss: „Die Implementierung von KI-Systemen ist keine ferne Zukunftsvision mehr, sondern jetzt dringend nötig, um die Versorgungseffizienz, das Patientenwohl aber auch die Wirtschaftlichkeit von Krankenhäusern und Kliniken zu verbessern.“ Dies erfordere einen iterativen, interdisziplinären Ansatz, geprägt von Experimentierfreude und Mut.

KI im Gesundheitswesen

Hartmannbund diskutiert ethische Leitplanken

KI und Ärzte

„Vertrauen ist ein sehr hohes Gut in der Medizin“

(ID:50386906)