Studie: Vertrauen in KI Projekt „Ethyde“ erforscht die Mensch-KI-Zusammenarbeit

Algorithmen überzeugen – so zeigen es zahlreiche Studien. KI kann auch das menschliche Wertesystem prägen: Laien folgen moralischen Empfehlungen häufig unkritisch, während Experten dem Potenzial eher mit Skepsis begegnen. Das Projekt „Ethyde“ untersucht experimentell, wie sich das Vertrauen in KI kalibrieren lässt, sodass Mensch und Maschine gemeinsam bessere Ergebnisse erzielen.

Chatbots bieten Orientierung in zahlreichen Themenfeldern und machen Informationen niederschwellig zugänglich. Nutzende neigen jedoch häufig dazu, KI auch als moralischen Begleiter und Ratgeber zu nutzen. Obwohl KI kein stabiles Wertesystem besitzt, sondern lediglich auf änderbaren Prompts und Datenbeständen basiert, folgen Menschen oft deren moralischen Urteilen.

Ein wesentlicher Grund dafür liegt in der überzeugenden Argumentationskraft der Systeme. Der Fachgebietsleiter für Wirtschafts- und Sozialethik der Universität Hohenheim, Prof. Dr. Matthias Uhl, kritisiert: „Das überhöhte Vertrauen zeigt sich nicht zuletzt darin, dass Nutzerinnen und Nutzer im Nachhinein glauben, sie wären auch ohne Unterstützung zum gleichen Ergebnis gekommen.“ Dass KI-basierte Antworten die eigene Meinungsbildung – oft unbemerkt – massiv beeinflussen können, wird dabei häufig unterschätzt. „Genau diese fehlende Wahrnehmung ist problematisch“, betont Uhl. „Die zentrale Herausforderung besteht darin, Strategien zu finden, mit denen Menschen KI reflektiert einsetzen und die Verantwortung für ihre Entscheidungen behalten.“