TRR 318 - Subproject C1 - Gesundes Misstrauen in Erklärungen

Überblick

Systeme mit künstlicher Intelligenz (KI) machen Fehler: Die Gitarre im Raum wird als Mensch erkannt, die Bahnverbindung führt zu einem falschen Zielort oder das große, rote Feuerwehrauto wird von der KI übersehen. In diesen Situationen und vor allem bei Empfehlungen für Entscheidungen sollten Menschen der KI ein gesundes Misstrauen entgegenbringen. Die Projektmitglieder untersuchen das Konzept des Misstrauens aus einer psychologischen sowie einer technischen Sicht. In psychologischen Experimenten soll herausgefunden werden, ob es ein gesundes Misstrauen gibt und durch welche äußeren Variablen es gefördert werden könnte. Ein technisches Ziel ist, dass KI-Systeme auf mögliche Unstimmigkeiten zwischen Maschine und Mensch hinweisen und diese erklären können.

Key Facts

Laufzeit:
07/2021 - 12/2025
Gefördert durch:
DFG
Website:
Homepage

Detailinformationen

Projektleitung

contact-box image

Prof. Dr. Ingrid Scharlau

Kognitive Psychologie und Psychologiedidaktik

Zur Person
contact-box image

Barbara Hammer

Universität Bielefeld

Zur Person (Orcid.org)

Publikationen

The Importance of Distrust in AI
T.M. Peters, R.W. Visser, in: Communications in Computer and Information Science, Springer Nature Switzerland, Cham, 2023.
Alle Publikationen anzeigen