Zunehmend unterstützt Künstliche Intelligenz (KI) die Entscheidungsfindung in Unternehmen und für Privatpersonen. Allerdings werden automatisierte Entscheidungen durch Algorithmen kritisch betrachtet werden – selbst dann, wenn die Algorithmen nachweisbar zu besseren Ergebnissen führen als menschliche Entscheider. Der Grund: Die Komplexität von intelligenten Systemen führt in vielen Fällen dazu, dass algorithmische Entscheidungen aus Sicht des Menschen durch eine „Black Box“ getroffen werden und nicht mehr nachvollzogen und validiert werden können. Das Forschungsfeld Erklärbare Künstliche Intelligenz (engl. Explainable Artificial Intelligence, XAI) setzt an diesem Punkt an und zielt darauf ab, automatisiert für Menschen verständliche Erklärungen zu generieren, welche die von KI-Systemen im Einzelfall getroffenen Entscheidungen für den Anwender nachvollziehbar und verständlich machen (siehe auch: www.erklaerbare-ki.de). Doch was macht XAI überhaupt und wie kann diese helfen eine Grundlage für angemessenes Vertrauen gegenüber dem KI-System schaffen?

Diese Fragen anhand praktischer Anwendungsfälle zu beantworten, um so sowohl Studierenden als auch der breiten Bevölkerung das noch eher unbekannte Forschungsfeld der Erklärbaren Künstlichen Intelligenz näherzubringen, ist Ziel des XAI-Demonstrators, welcher an der Universität Ulm entwickelt wurde. Das Projekt wurde gefördert von der Péter Horváth-Stiftung.

Fördergeber: Péter Horváth-Stiftung

Projektzeitraum: Juni 2020 – Januar 2021

Weiterführende Links

Zum XAI-Demonstrator: https://www.erklaerbare-ki.de/xai-demonstrator

Zur technischen Dokumentation: https://xai-demonstrator.github.io/xai-demonstrator

Zum Github-Repository: https://github.com/XAI-Demonstrator/xai-demonstrator

---