Neuer Leitfaden der WHO zum Einsatz großer KI-Modelle

Weltgesundheitsorganisation Neuer Leitfaden der WHO zum Einsatz großer KI-Modelle

26.01.2024 Von Chiara Maurer 2 min Lesedauer

Anbieter zum Thema

Die Weltgesundheitsorganisation (WHO) hat neue Richtlinien zum Einsatz großer KI-Modelle im Gesundheitswesen veröffentlicht. Die steigende Verwendung multimodaler KI-Modelle in wissenschaftlicher Forschung, öffentlichem Gesundheitswesen und der Pharmaindustrie erfordert laut WHO ein „sicheres und wirksames“ Engagement aller Beteiligten.

„LMMs werden auch als 'General purpose AI' bezeichnet, [...] dennoch ist noch nicht bewiesen, ob LMMs ein breites Spektrum an Aufgaben und Zwecken erfüllen können“, so die WHO.(© PhonlamaiPhoto's Images – via Canva.com) — „LMMs werden auch als 'General purpose AI' bezeichnet, [...] dennoch ist noch nicht bewiesen, ob LMMs ein breites Spektrum an Aufgaben und Zwecken erfüllen können“, so die WHO.
(© PhonlamaiPhoto's Images – via Canva.com)

Die WHO fordert ein Engagement von Regierungen, Technologieunternehmen, Gesundheitsdienstleistern, Patienten und der Zivilgesellschaft für den sicheren Einsatz von KI im Gesundheitswesen. Dies schließt die frühzeitige Einbeziehung verschiedener Interessengruppen in den Entwicklungsprozess von KI-Modellen ein. Entscheidungen in der Entwicklung berücksichtigen häufig mehrere Parteien, darunter Entwickler, Technologieunternehmen, Universitäten und nationale Gesundheitssysteme.

Das Finetuning von KI-Modellen und die Integration von Large Multi-modal Models (LMMs) in bestehende Software oder Hardware-Komponenten erfordern die Beteiligung verschiedener Anbieter. Erst kürzlich verwies das Bundesamt für Sicherheit in der Informationstechnik auf die Herausforderungen der Cybersicherheit bei KI und hat Richtlinien dazu veröffentlicht. Die WHO betont deshalb die Notwendigkeit von Transparenz, da es für Endverbraucher zunehmend schwierig wird, Verantwortlichkeiten nachzuvollziehen.

Die aktuellen Richtlinien bauen auf den bereits 2021 von der WHO veröffentlichten Leitlinien zur Ethik und Governance im Einsatz von KI im Gesundheitswesen auf. Experten wurden zu Vorteilen und Risiken von KI-Modellen befragt, wobei mögliche Auswirkungen auf den Arbeitsmarkt, die Überschätzung der Systeme, KI-Bias, Halluzinationen und offene Fragen zur Datenqualität und Cybersicherheit als Risiken identifiziert wurden.

Leitfaden für verantwortungsvollen Einsatz von LMMs

Der mehr als 70 Seiten umfassende Leitfaden der WHO enthält über 40 Empfehlungen für Regierungen, Technologieunternehmen und Gesundheitsdienstleister. Der Fokus liegt auf einem „verantwortungsvollen Einsatz von LMMs zur Förderung und dem Schutz der öffentlichen Gesundheit“. Im Mittelpunkt stehen dabei Anwendungen für Ärztinnen und Ärzte sowie für Patientinnen und Patienten zur Diagnose, Büro- und Verwaltungsaufgaben, medizinische Ausbildung, pflegerische Aufgaben sowie wissenschaftliche Forschung und Arzneimittelentwicklung.

Die Richtlinien von 2021 umfassen sechs Grundsätze, darunter der Schutz der Autonomie, Förderung des Wohlbefindens der Menschen, Transparenz und Erklärbarkeit der KI, Verantwortung aus rechtlicher Sicht, Inklusivität und Gerechtigkeit sowie reaktionsfähige und nachhaltige KI. Die WHO spricht sich für eine weltweite Zusammenarbeit von Regierungen aus, um KI-Systeme zu regulieren, was bereits durch die KI-Verordnung in Europa angestrebt wird. Beim AI Safety Summit haben sich bereits 30 Staaten darauf geeinigt, beim Einsatz von KI besser zu kooperieren.

Zum Leitfaden gelangen Sie hier:

KI-Leitfaden der WHO

Außerhalb der klinischen Arbeit unterstützt KI auch bei der Analyse von Daten. (© ismagilov, Getty Images via Canva.com)

(ID:49886219)

Jetzt Newsletter abonnieren

Wöchentlich die wichtigsten Infos zur Digitalisierung im Gesundheitswesen

Geschäftliche E-Mail

Bitte geben Sie eine gültige E-Mailadresse ein.

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Stand: 08.12.2025

Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.

Einwilligung in die Verwendung von Daten zu Werbezwecken

Ich bin damit einverstanden, dass die Vogel Communications Group GmbH & Co. KG, Max-Planckstr. 7-9, 97082 Würzburg einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.

Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.

Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.

Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.

Recht auf Widerruf

Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.