Projekt 3: Nutzer*innenzentrierte Entwicklung und Evaluation von XAI-Methoden

Algorithmen aus dem Bereich Künstliche Intelligenz (KI) sind häufig so komplex, dass algorithmische Entscheidungen aus Sicht des Menschen nicht mehr nachvollzogen und validiert werden können. Ein Lösungsansatz ist die Ergänzung von KI um Methoden aus der Erklärbaren Künstlichen Intelligenz (engl. Explainable Artificial Intelligence, XAI). XAIMethoden generieren automatisiert Erklärungen, welche die Funktionsweise des KI Systems oder die von KI-Systemen im Einzelfall getroffenen Entscheidungen für Anwender*innen, Betroffene oder Entwickler*innen nachvollziehbar machen. In diesem Projekt wird ein Beitrag geliefert, das Potenzial von XAI-Methoden zu heben. Hierzu sollen neue, nutzerzentrierte XAI-Methoden entwickelt und für reale Anwendungsfälle demonstriert werden. Zudem sollen der Mehrwert dieser XAI-Methoden aus Nutzer*innensicht sowie deren Auswirkungen auf den Umgang von Nutzer*innen mit KI evaluiert werden.
 

Estbetreuer:

Prof. Dr. Matthias Klier, Institut für Business Analytics, Universität Ulm

 

Tandempartner:

Prof. Dr. Volker Herbort, Technische Hochschule Ulm

 

Beratende Experten:

Prof. Dr. Henning Bruhn-Fujimoto, Institut für Optimierung und OR, Universität Ulm

Prof. Dr. Birte Glimm, Institut für Künstliche Intelligenz, Universität Ulm

Prof. Manfred Reichert, Insitut für Datenbanken und Informationssysteme, Universität Ulm

Prof. Dr. Stephan Schlüter, Technische Hoschschule Ulm