Best Student Paper Award auf der International Conference on Design Science Research in Information Systems and Technology (DESRIST) 2024 für DBIS Doktoranden.
Der DBIS Doktorand Tobias Jahn hat, zusammen mit Philipp Hühn und Maximilian Förster vom Institut für Business Analytics, für seine Arbeit "Wasn’t Expecting that – Using Abnormality as a Key to Design a Novel User-Centric Explainable AI Method" den Best Student Paper Award der 19th International Conference on Design Science Research in Information Systems and Technology (DESRIST 2024) erhalten:
Tobias Jahn, Philipp Hühn, Maximilian Förster
Wasn't Expecting That - Using Abnormality as a Key to Design a Novel User-Centric Explainable AI Method 19th International Conference on Design Science Research in Information Systems and Technology (DESRIST 2024)
Zum Inhalt der ausgezeichneten Arbeit:
Die Undurchsichtigkeit von Systemen der Künstlichen Intelligenz (KI) ist ein großes Hindernis für deren Einsatz. Explainable AI (XAI) Methoden, die automatisch kontrafaktische Erklärungen für KI-Entscheidungen generieren, können das Vertrauen der Nutzer in KI-Systeme erhöhen. Hierbei ist Abnormalität der Erklärungen eine essentielle Eigenschaft, die jedoch von bestehenden XAI-Methoden noch nicht ausreichend berücksichtigt wird. Vor diesem Hintergrund wurde im Rahmen dieser Forschungsarbeit ein neuer Ansatz zur Generierung kontrafaktischer Erklärungen basierend auf der Abnormalität von Features entwickelt. Der Ansatz wurde in diesem Paper in einer realistischen Umgebung demonstriert und seine Wirksamkeit einem Nutzertest unterzogen. Die Ergebnisse zeigen, dass der entwickelte Ansatz Erklärungen erzeugt, die sowohl vertrauensfördernder als auch hilfreicher sind, um die faktische Situation zu erklären.
Die DESRIST, welche dieses Jahr in Trollhättan in Schweden abgehalten wurde, ist im Fachbereich Wirtschaftsinformatik gleichermaßen renommiert wie traditionsreich. Unterschiedliche Disziplinen, vereint durch einen Fokus auf Design Science Research, werden in verschiedenen Tracks behandelt.