NEUPA

NEUPA soll helfen die Erklärbarkeit von Künstlichen Neuronalen Netzen (KNN) zu erhöhen und so mittelfristig deren Zertifizierungen prinzipiell zu ermöglichen. Dazu folgen wir zwei innovativen Ideen: 

  • Wir trainieren Prädiktionsmodelle für das jeweilige Verhalten zusammen mit den lernenden KNN, die dann in einem zweiten Schritt genutzt werden, um das Verhalten der KNN selbst zu erklären.
  • Wir wenden Methoden der statistischen Physik und des kollektiven Entscheidens zur Analyse an. Dabei werden mit mathematischen Methoden Gruppen von künstlichen Neuronen ihrer Funktionalität folgend zu größeren Einheiten zusammengefasst, um das KNN dann modulweise verstehen zu können. 


Wir wollen unsere Methoden zur KI-Erklärbarkeit demonstrieren, indem wir ein Fahrerassistenzsystem entwickeln. Dieses Fahrerassistenzsystem soll das Verhalten von Fußgängern, Fahrradfahrern und E-Roller-Fahrern voraussagen und den Fahrer warnen, falls es zu einer gefährlichen Situation im Straßenverkehr kommen könnte.  

KNN und verwandte Methoden sind aktuell kaum für Autonomes Fahren zertifizierbar. NEUPA kann helfen, die Erklärbarkeit der entstehenden KNN zu erhöhen und so mittelfristig Zertifizierungen prinzipiell zu ermöglichen.