Forschungsprojekt KI-Cockpit Mehr menschliche Kontrolle über KI

Anbieter zum Thema

KODAK Alaris Germany GmbH

Governikus GmbH & Co. KG

Kommune, Pflege und Human Resources – es gibt genug Bereiche, in denen KI eingesetzt wird. Doch bleibt oftmals die Frage offen, ob die eigene Stelle nicht bald durch KI ersetzt werden könnte. Im Projekt „KI-Cockpit“ wird etwas anderes gezeigt: In verschiedenen Forschungsfeldern bleibt der Mensch „in command“.

KI ersetzt nicht den Menschen, sondern unterstützt sie. Das zeigt das Projekt „KI-Cockpit“ des Bundesministeriums für Arbeit und Soziales (BMAS). Noch mehr sogar: Der Mensch „in command“ behält stets die Kontrolle und überwacht KI-Anwendungen in der Praxis. Ziel ist es, den Mitarbeitenden einen klaren Überblick über die Entscheidungen von KI-Systemen zu verschaffen. Außerdem sollten sie gut informiert und selbstständig über Eingriffe in maschinelle Abläufe entscheiden können. Auf diese Weise sollen gesellschaftliche Risiken von KI-Technologien, wie Verzerrungen oder Diskriminierungen, minimiert und die Akzeptanz ihrer Nutzung in der Arbeitswelt gefördert werden. Dabei wurde ein Modell entwickelt, das Organisationen bei der AI-Act-konformen Einführung von KI-Systemen unterstützt.

Es stellt sich die Frage, welche Informationen Beschäftigte in welcher Form benötigen, um das Verhalten eines KI-Systems angemessen einschätzen und überwachen zu können. Ebenso wichtig ist die effektive Umsetzung menschlicher Kontrolle, beispielsweise durch die Einführung unterschiedlicher Autonomiestufen oder „Stopp“-Tasten. Und lassen sich daraus allgemeine Prinzipien für die Gestaltung von KI sowie konkrete Empfehlungen für die Beteiligung der Mitarbeitenden bei der Einführung von KI-Anwendungen am Arbeitsplatz ableiten?

Hier spielen vor allem vier Forschungsfelder eine Rolle, die sich mit neuen Perspektiven und Lösungen einbringen. Darunter zählen die Wirtschaftspsychologie, das Design Engineering, die angewandte Kognitionswissenschaft und die qualitative Sozialforschung.

Forschungsrichtungen mit Perspektive

Wirtschaftspsychologie: „Feeling in Command“

Ein spezielles Transparenz-Interface stellt den Nutzenden Informationen zu den Zielen, der Datenbasis und den Kontrollmöglichkeiten des Systems zur Verfügung. Prof. Regina Kempen von der Hochschule Aalen untersucht in diesem Zusammenhang, wie Transparenz das Vertrauen und die Akzeptanz von KI-Systemen bei Menschen fördert und welche Voraussetzungen geschaffen werden müssen, damit sich der Mensch „in command“ fühlt.

Design Engineering: „Design4Command“

Kern der Forschung im Design Engineering ist die Stärkung der Dreiecksbeziehung zwischen Mensch, Technologie und Organisation. „Design4Command“ ist ein Ansatz für den Aufbau von Mensch-KI-Teams. Diese Methoden stellen sicher, dass KI-Systeme menschliche Fähigkeiten nicht ersetzen, sondern verbessern. Von der Hochschule Aalen erforscht Prof. Dr. Doris Aschenbrenner digitale Methoden und entwickelt ein entsprechendes Framework für verschiedene Anwendungsfelder.

Angewandte Kognitionswissenschaften: „Awareness in Command“

Ein neuroadaptives KI-Cockpit passt sich den individuellen Bedürfnissen der Nutzenden an und reagiert bedarfsgerecht, indem es die aktuelle Situation sowie die Ausgangslage berücksichtigt. Ähnlich wie ein Flugzeug-Cockpit unterstützt das System automatische Prozesse und entlastet bei der Arbeit, zum Beispiel durch angepasste Alarme und Informationsflüsse. Auf diese Weise werden Stress reduziert und menschliche Fehler minimiert.

Qualitative Sozialforschung: „Partizipation und Inklusion“

Mitarbeitende werden zu Co-Forschenden durch ihre aktive Einbindung in die Technologieentwicklung. Dabei reflektieren sie ihren Arbeitsalltag, hinterfragen Routinen und entwickeln gemeinsam mit den Forschenden Lösungen, sodass die Bedürfnisse der Nutzenden tatsächlich erfüllt werden.

Studie

Die Zukunft der Medizintechnik: Die Rolle der KI

Um KI erfolgreich und souverän am Arbeitsplatz einzuführen, war es zunächst notwendig, ein Verständnis dafür zu entwickeln, wie Beschäftigte in die Entscheidungsprozesse von KI-Systemen eingebunden werden können. Dafür wurde das KI-Cockpit in drei Bereichen erprobt:

Kommune

KI-Assistenzsysteme werden bei der Verkehrsleitplanung eingesetzt: Gerade aufgrund des hohen Aufkommens von Berufspendlern ist es nötig, dass Staus vermieden, Parkraumverwaltungen modernisiert, aber auch Gefahrensituationen besser erkannt werden müssen. Das KI-Cockpit ist transparent gestaltet, sodass nachvollziehbar ist, welche Entscheidungen das System bei der Verkehrsleitplanung getroffen hat. Dabei muss das System auch überblickt und kontrolliert werden, um bei Bedarf eingreifen zu können. Eine Herausforderung wird sein, sogenannte Autonomiestufen festzulegen, sodass das Maß der Kontrolle geregelt werden kann.

KI und digitale Tools

Wie Digitalisierung die Pflegekräfte entlasten kann

Pflege

Der Pflegebereich kämpft seit Jahren mit einem erhöhten Aufkommen pflegebedürftiger Menschen bei gleichzeitigem Fachkräftemangel. Pflegekräfte sollen vor allem von pflegefremden Tätigkeiten entlastet werden. Ein Dashboard soll deshalb die Kommunikation und Organisation von Arbeitsabläufen im Altenzentrum verbessern und über bevorstehende Prozesse auf einzelnen Stationen informieren. KI-basierte Daten können von den Pflegekräften mit einer Speech-to-Text-Funktion über einen Messenger generiert werden.

Personalwesen (HR)

Das europäische KI-Gesetz erschwert den Einsatz von Algorithmen und KI auch im Bereich der Stellenbesetzung und Aufgabenverteilung. Das KI-Cockpit unterstützt das Personalwesen dabei, mögliche Diskriminierungen frühzeitig zu erkennen und zu vermeiden. Als Human in Command können die Anwendenden schließlich die erforderlichen Maßnahmen selbst ergreifen. Ziel ist es, den Matching-Prozess zwischen Arbeitssuchenden und Arbeitgebern zu unterstützen.

Künstliche Intelligenz entlastet Arbeitskräfte, verbessert die Arbeitsqualität und erhöht die Produktivität. Allerdings ist künstliche Intelligenz nur dann eine sinnvolle Unterstützung, wenn die Technologie am Menschen orientiert ist und auch die Entscheidung über ihren Einsatz sowie die Kontrolle ihrer Ergebnisse beim Menschen verbleiben. Daher wird das KI-Cockpit von KI-Experten begleitet und mit etwa 3,5 Millionen Euro vom BMAS gefördert.

Kontrollierte KI

KI und Patientensouveränität in der Gesundheitsversorgung

(ID:50271206)