Vertrauen entscheidet über KI-Akzeptanz

Kaum ein Bereich ist so eng mit Vertrauen verbunden wie das Gesundheitswesen. Viele Menschen empfinden es als unangenehm, wenn eine Café-App ihren Standort kennt und darauf basierend Angebote verschickt. Gleichzeitig würden dieselben Menschen möglicherweise eine Gesundheitswarnung ihres Wearables begrüßen, wenn dieses auf eine Unregelmäßigkeit des Herzrhythmus hinweist. Der Unterschied liegt im wahrgenommenen Nutzen sowie in Transparenz und Kontrolle.

Die Versicherungsbranche liefert hierfür ein anschauliches Beispiel. Das Vitality-Programm verknüpft Aktivitätsdaten aus Wearables mit individuellen Gesundheitszielen und Anreizsystemen. Damit Nutzer zeitnah Rückmeldungen erhalten und Gesundheitsdaten kontinuierlich ausgewertet werden können, müssen die eingehenden Daten in Echtzeit verarbeitet werden. Diese Echtzeitfähigkeit ist entscheidend, da Rückmeldungen, Anreize und Risikobewertungen auf aktuellen Informationen basieren.

Gleichzeitig zeigt dieses Beispiel, warum Vertrauen so wichtig ist. Dieselben Daten, die Menschen dabei unterstützen können, ihre Gesundheit zu verbessern, können erhebliche Bedenken auslösen, wenn sie breiter geteilt oder für Zwecke genutzt werden, mit denen die Betroffenen nicht rechnen.

Mit der zunehmenden Verbreitung generativer KI gewinnt diese Fragestellung weiter an Bedeutung. Wenn ein KI-System eine Überweisung priorisiert oder klinische Empfehlungen vorbereitet, müssen Verantwortliche nachvollziehen können, auf welcher Datenbasis das Ergebnis entstanden ist. Dazu gehören Transparenz über die Herkunft und Verarbeitung von Daten sowie die Möglichkeit, Entscheidungen und Datenflüsse jederzeit nachzuvollziehen und zu überprüfen. Ebenso notwendig sind klare Regeln für Zugriffsrechte, Verschlüsselung, Aufbewahrungsfristen und die Einwilligung der Patienten. Vor allem aber braucht es menschliche Aufsicht überall dort, wo Entscheidungen Auswirkungen auf die Versorgung von Patienten haben können.

Was erfolgreiche KI-Initiativen auszeichnet

Ein leistungsfähiges, KI-gestütztes Gesundheitssystem zeichnet sich nicht dadurch aus, dass jeder Prozess automatisiert wird. Vielmehr geht es darum, dass die richtigen Daten zur richtigen Zeit die richtige Person, das richtige System oder das passende Modell erreichen – mit den erforderlichen Berechtigungen und einer nachvollziehbaren Dokumentation ihres Weges.

Dafür ist zunächst Interoperabilität erforderlich – die Fähigkeit unterschiedlicher IT-Systeme, Daten miteinander auszutauschen und gemeinsam nutzbar zu machen. Ebenso wichtig ist der Zugriff auf Informationen in Echtzeit. Anwendungen wie die digitale Fernüberwachung von Patienten, das Management von Krankenhauskapazitäten, die Auswertung von Testergebnissen, die frühzeitige Erkennung von Zustandsverschlechterungen oder die Entlassungsplanung gewinnen erheblich an Wert und Zuverlässigkeit, wenn die zugrunde liegenden Daten unmittelbar nach ihrer Entstehung verfügbar sind.

Darüber hinaus muss Governance von Beginn an Teil der Datenarchitektur sein. Dazu gehören klare Regeln für Datenschutz, Zugriffsrechte, Einwilligungen, Datennutzung und Nachvollziehbarkeit. Organisationen müssen jederzeit darlegen können, welche Daten verwendet wurden, welche Regeln zur Anwendung kamen und an welcher Stelle menschliche Aufsicht vorgesehen ist.

Studie: Vertrauen in KI

Projekt „Ethyde“ erforscht die Mensch-KI-Zusammenarbeit

Schließlich darf der Aspekt der Teilhabe nicht übersehen werden. Digitale Kanäle können den Zugang zur Gesundheitsversorgung für viele Menschen verbessern, gleichzeitig, aber neue Barrieren für ältere, vulnerable oder weniger digital affine Bevölkerungsgruppen schaffen. Ein Gesundheitssystem, das für einige Menschen effizienter wird, für andere jedoch schwerer zugänglich ist, hat seine Transformation nicht vollständig erreicht.

Echtzeit-Dateninfrastruktur als strategische Grundlage

Die Untersuchungen der Europäischen Kommission verdeutlichen den dringenden Handlungsbedarf: Gesundheitssysteme benötigen die Dateninfrastruktur, um KI verantwortungsvoll, skalierbar und vertrauenswürdig einsetzen zu können. Dazu gehört die Vernetzung bislang isolierter Systeme ebenso wie die Fähigkeit, Daten in Echtzeit, statt in zeitverzögerten Prozessen bereitzustellen.

Ebenso wichtig sind klare Regeln für Datenschutz, Nachvollziehbarkeit und die sichere Nutzung sensibler Informationen. Daten müssen geschützt, kontrolliert und gleichzeitig dort verfügbar sein, wo sie für Versorgung, Forschung oder betriebliche Entscheidungen benötigt werden.

KI könnte sich als eine der folgenreichsten Technologien erweisen, die das Gesundheitswesen jemals eingeführt hat. Doch die Modelle allein werden dieses Potenzial nicht erschließen. Die Daten, auf denen sie basieren, müssen aktuell, vertrauenswürdig, nachvollziehbar und in Echtzeit verfügbar sein. Denn wenn Daten im Gesundheitswesen versagen, leidet nicht ein System – sondern ein Mensch.

Whitepaper zur KI-Readiness

KI in der Krankenhausplanung berücksichtigen

(ID:50948824)