Das Forschungsfeld Erklärbare Künstliche Intelligenz (engl. Explainable Artificial Intelligence, XAI) stellt Ansätze bereits, um automatisiert Erklärungen für Entscheidungen von Künstlicher Intelligenz (KI) zu generieren. Um Erklärungen effektiv gestalten und einsetzen zu können, ist es zentral herauszufinden, wie sich Erklärungen auf die Interkation von NutzerInnen mit KI wirken. Im deutsch-israelischen Projekt "Guess The City / explAIn – lehAsbIr" untersuchen wir, welche Rolle Erklärungen von modernen XAI-Methoden im Kontext von KI-gestütztes Lernen spielen kann – "Lehasbir" bedeutet auf Hebräisch "erklären".

Die Frage, wie XAI NutzerInnen beim Lernen unterstützen kann, wurde bisher wissenschaftlich kaum betrachtet. Auch in der Praxis wird XAI trotz des großen Potentials noch nicht häufig in Lern-Kontexten umgesetzt. Im Rahmen des Projekts entwickeln wir daher eine Lern-App, die für ihre NutzerInnen Erklärungen basierend auf dem aktuellen Stand der XAI-Forschung generiert und untersuchen deren Effektivität. NutzerInnen wird dabei ein Lernspiel präsentiert, in dem sie Bilder aus Google Streetview aus vier Städten aus Deutschland und Israel – Berlin, Hamburg, Tel Aviv und Jerusalem – der jeweiligen Stadt zuordnen. Die KI versucht sich an derselben Aufgabe. Den NutzerInnen wird aufgezeigt, wie die KI zu ihrer Entscheidung kam, indem die für die Zuordnung wesentlichen Bildbestandteile hervorgehoben werden (Markierung der "Feature Relevance"). Die App wird mit einer benutzerfreundlichen Oberfläche implementiert und kann für NutzerInnen niedrigschwellig entweder per Smartphone oder über einen Webbrowser am Computer erreicht werden. Am Ende erhalten NutzerInnen einen Score für ihre Antworten, durch den sie ihre Performance mit der der KI vergleichen können.

Kooperationspartner: Prof. Dr. Lior Fink vom Behavioral Information Technology (BIT) Lab der Ben Gurion University in Beer Sheva, Israel

Projektzeitraum: September 2021 – September 2022