Anbieter zum Thema

appliedAI Institute for Europe gGmbH

Governikus GmbH & Co. KG

Wenn Verwaltungsämter ihren Bürgern diese Flexibilität bieten wollen, wie können sie Generative KI implementieren?

Hartmann: In der Verwaltung wäre es sinnvoll, zunächst eigene, individuelle Modelle zu trainieren, die beispielsweise auf am häufigsten gestellte Fragen zugeschnitten sind. Alternativ gibt es auch viele Open-Source-Modelle, die zu diesem Zweck genutzt werden können. Es gibt eine Vielzahl von Lösungen, von einfachen Anwendungsfällen, wie der Unterstützung bei der Texterstellung, bis hin zu komplexeren Lösungen, wie Chatbot-Systemen, die bereits als einsatzfähiges Tool zur Verfügung stehen. Microsoft hat kürzlich angekündigt, dass sie künftig Schreibassistenten-Funktionen in ihre gesamte Office-Produktpalette integrieren werden. Dadurch wird die Hürde, solche Lösungen selbst einzusetzen, immer niedriger. Für anspruchsvollere Themen, wie Chatbots, gibt es Anbieter wie Aleph Alpha, die die eben erwähnten sofort einsetzbaren Lösungen anbieten. Natürlich ist es wichtig, sicherzustellen, dass diese Anbieter über die erforderlichen Daten in digitaler Form verfügen. Gerade hier spielt der Datenschutz eine entscheidende Rolle. Es gibt Lösungen, wie ChatGPT, bei denen der Umgang mit Daten klar geregelt ist und der Datenschutz immer gewährleistet wird. Verantwortliche sollten sich allerdings immer darüber informieren, ob es vergleichbare Lösungen in Europa gibt, um im europäischen Raum zu bleiben und Daten auch hier zu speichern.

Datenschutz ist auch im Gesundheitsbereich ein wichtiges Thema. Was kann Generative KI im Gesundheitswesen bieten und wo stößt die KI an ihre Grenzen?

Hartmann: Auch im Gesundheitswesen ist Generative KI ein sehr relevantes Thema, weil hier viele Fachkräfte fehlen. Die Arbeit des medizinischen Personals ist vielfältig und komplex, doch die vorhandene Zeit zur Ausführung der Tätigkeiten ist knapp. Viele Aufgaben hängen allerdings nicht unbedingt mit dem medizinischen Fachbereich zusammen, wie beispielsweise die Dokumentation. Bei standardisierten und klar definierten Aufgaben kann Generative KI maßgeblich helfen. Aus diesem Grund sehe ich im Gesundheitsbereich ein enormes Potenzial für KI als unterstützendes Werkzeug, jedoch nicht als Ersatz.

Und das ist wichtig: KI-Tools sind lediglich eine Unterstützung. Auch wenn sie sehr gut funktionieren, sind sie noch weit davon entfernt, einen Menschen zu ersetzen. Gerade im Gesundheitswesen beweisen das die in den letzten Jahren zahlreichen gescheiterten Modelle (z. B. Watson Assistant von IBM, der bei Krebsdiagnosen falsche oder sogar gefährliche Behandlungsmethoden vorgeschlagen hatte). In vielen Bereichen befinden wir uns noch in der frühen Entwicklungsphase, in der KI noch keine zuverlässigen und qualitativ hochwertigen Antworten liefert. Gerade in der Medizin gibt es oftmals keine eindeutig richtigen oder falschen Antworten, und viele Einflussfaktoren müssen beachtet werden.

Sie haben eingangs erklärt, dass die Digitalisierung die Voraussetzung für die Anwendung von KI ist. Gibt es noch weitere Voraussetzungen, die erfüllt werden müssen, um KI in tägliche Prozesse, beispielsweise im Gesundheitswesen, integrieren zu können?

Hartmann: Die Digitalisierung ist eine entscheidende technische Voraussetzung. Es gibt jedoch auch viele nicht-technische Aspekte, die von großer Bedeutung sind. Es ist wichtig, realistische Erwartungen an KI zu haben und zu verstehen, was sie kann und was nicht. Die Wahrheit liegt oft in der Mitte. Es liegt in der Verantwortung der Entwickler, zu entscheiden, welche Funktionen sinnvoll in eine KI integriert werden sollten und welche nicht. Bei Entscheidungen und Diagnosen kann KI unterstützen, aber die Mitarbeiter müssen sich bewusst sein, dass sie nicht automatisch die absolute Wahrheit liefert. Es ist immer noch notwendig, Überprüfungen durchzuführen, um Systemfehler auszuschließen. Eine KI arbeitet in der Regel mit Wahrscheinlichkeiten und liefert dementsprechend das wahrscheinlichste Ergebnis. Es kann in 99 Fällen richtig sein, und in einem Fall falsch. Daher müssen die Mitarbeiter geschult sein, um zu verstehen, dass Fehler auftreten können.

Ein Ausblick in die Zukunft: Wie wird sich Ihrer Meinung nach das Thema in den nächsten 10 bis 20 Jahren in der Verwaltung oder im Gesundheitswesen entwickeln?

Hartmann: Betrachten wir die KI-Entwicklungen der letzten Jahre, gab es oft eine Überschätzung der kurzfristigen Möglichkeiten und gleichzeitig eine Unterschätzung der langfristigen Entwicklungen. Konkret bedeutet das, dass die Erwartungen im Gesundheitsbereich, zum Beispiel die Vorstellung, dass die KI Ärzte oder Radiologen ersetzt, oft zu hoch waren und immer noch sind.Gleichzeitig sind die Entwicklungen im Bereich von Generativer KI in den vergangenen Monaten beeindruckend. Ein Beispiel dafür ist ChatGPT, ein wirklich funktionierendes Tool, das einen Mehrwert bietet. In der Verwaltung und im Gesundheitswesen sollten die richtigen Schwerpunkte für die Verwendung von KI gesetzt werden, um Prozesse zu verbessern und Mitarbeiter zu unterstützen. Es ist jedoch wichtig, dass die Erwartungen realistisch sind und bleiben. Insbesondere in der Unterstützung der Mitarbeiter und der Verbesserung bestehender Prozesse lassen sich in den nächsten Jahren wesentliche Effizienzen heben. Wichtig ist aber: Man muss damit anfangen!

(ID:49624589)