Best Student Paper Award auf der International Conference on Design Science Research in Information Systems and Technology (DESRIST) 2024

Tobias Jahn und Philipp Hühn nahmen vom 03. bis zum 05. Juni an der 19th International Conference on Design Science Research in Information Systems and Technology (DESRIST 2024) teil und präsentierten die zusammen mit Maximilian Förster verfasste Publikation "Wasn’t Expecting that – Using Abnormality as a Key to Design a Novel User-Centric Explainable AI Method", welche mit dem Best-Student-Paper Award der Konferenz ausgezeichnet wurde.

Die DESRIST, welche dieses Jahr in Trollhättan in Schweden abgehalten wurde, ist im Fachbereich Wirtschaftsinformatik gleichermaßen renommiert wie traditionsreich. Unterschiedliche Disziplinen, vereint durch einen Fokus auf Design Science Research, werden in verschiedenen Tracks behandelt.

Die Undurchsichtigkeit von Systemen der Künstlichen Intelligenz (KI) ist ein großes Hindernis für deren Einsatz. Explainable AI (XAI) Methoden, die automatisch kontrafaktische Erklärungen für KI-Entscheidungen generieren, können das Vertrauen der Nutzer in KI-Systeme erhöhen. Hierbei ist Abnormalität der Erklärungen eine essentielle Eigenschaft, die jedoch von bestehenden XAI-Methoden noch nicht ausreichend berücksichtigt wird. Vor diesem Hintergrund wurde im Rahmen dieser Forschungsarbeit ein neuer Ansatz zur Generierung kontrafaktischer Erklärungen basierend auf der Abnormalität von Features entwickelt. Der Ansatz wurde in diesem Paper in einer realistischen Umgebung demonstriert und seine Wirksamkeit einem Nutzertest unterzogen. Die Ergebnisse zeigen, dass der entwickelte Ansatz Erklärungen erzeugt, die sowohl vertrauensfördernder als auch hilfreicher sind, um die faktische Situation zu erklären.

Im Rahmen der DESRIST 2024 wurde dieser Beitrag als bestes Student-Paper der Konferenz für den Best-Student-Paper Award ausgezeichnet.