TRR 318 - Ein dialogbasierter Ansatz zur Erklärung von Modellen des maschinellen Lernens (Teilprojekt B01)

Im Gegensatz zu aktuellen Modellen algorithmischer Transparenz, die von einer rein algorithmischen Konstruktion einer Erklärung ausgehen, verfolgt das Projekt B01 einen ko-konstruktiven Ansatz für den interaktiven und domänenspezifischen Prozess zwischen Erklärendem und Adressaten. Das Ziel ist es, ein Dialogprotokoll zu entwickeln und zu ko-konstruieren, das in einer spezifischen Domäne von sozialer Relevanz (Gesundheit, Versicherung oder Polizeiarbeit) verwendet wird. Das interaktive Frage-Antwort-Protokoll wird sich auf kontrafaktische Fragen konzentrieren, die das Verständnis dafür verbessern, wie Eingaben mit den Ausgaben eines Klassifikators zusammenhängen.

Die Wissenschaftler*innen im Projekt B01 arbeiten an einem System mit künstlicher Intelligenz (KI), das Rückfragen auf sprachlicher Ebene angemessen beantworten kann. Im medizinischen Bereich soll das System beispielsweise gegenüber Ärzt*innen einen Behandlungsvorschlag begründen können und Fragen und Unsicherheiten von Patient*innen in Bezug auf den Behandlungsplan klären. Die Informatiker*innen und Soziolog*innen beziehen in ihre Forschung die Sichtweise der Nutzer*innen ein. Dafür beobachten sie, wie beispielsweise Klinikmitarbeitende das KI-System annehmen und welche Anforderungen sie an das System stellen. Aus den Ergebnissen entwickeln die Forschenden ein Dialogsystem, das in verschiedenen Gesellschaftsbereichen eingesetzt werden kann.