Projekt 4: Wie entscheiden Neuronale Netze?

Neuronale Netze (NN) werden u.a. zur Klassifikation eingesetzt. Basierend auf dem zuvor erfolgten Training ordnet ein NN einer Eingabe eine Ausgabeklasse zu. Ein jüngstes Beispiel umfasst die automatische Erkennung von Covid-19 Erkrankungen aus Röntgenbildern der Lunge. Es stellt sich die Frage, aufgrund welcher Merkmale ein NN die Entscheidung „gesund“ oder „krank“ fällt. Einfache Sensitivitätsanalysen sind hier aufgrund des zu hohen Rauschanteils nicht zielführend. Neuere Methoden aus der Theorie der NN (z.B. Saliency Maps, Integrated oder Expected Gradients, Smooth Grad) sind aber u.U. sehr sensitiv bzgl. der gewählten Parameter (z.B. der sogenannten Baseline).
In diesem Projekt sollen neue Ansätze zur Erkennung von lokalen Abhängigkeitsstrukturen in Entscheidungsprozessen entwickelt und anhand von realen Problemstellungen validiert werden. Dazu zählen u.a. Gebiets-Optimierungs-Verfahren, wie sie z.B. bei Shape Optimization bekannt sind. So sollen Regionen mit großem Einfluss auf die Entscheidung detektiert werden.
 

Erstbetreuer:

Prof. Dr. Henning Bruhn-Fujimoto, Institut für Optimierung und OR, Universität Ulm

 

Tandempartner:

Prof. Dr. Reinhold von Schwerin, Technische Hochschule Ulm

Prof. Dr. Karsten Urban, Institut für Numerische Mathematik, Universität Ulm

 

Beratende Experten:

Prof. Dr. Jan Beyersmann, Institut für Statistik, Universität Ulm

Prof. Dr. Matthias Klier, Institut für Business Analytics, Universität Ulm

Prof. Dr. Michael Munz, Technische Hochschule