EnTrust (Teilprojekt 3: Erklärbarkeit)

Das Ziel des Forschungsschwerpunktes EnTrust ist es, methodische Vorgehensweisen und formale Werkzeuge zu erforschen, die die ingenieurmäßigen Entwicklung korrekter - oder zumindest vertrauenswürdiger - datenintensiver Software unterstützen. Dieses Ziel wird in verschiedenen Teilprojekten verfolgt. 

Ein wesentlicher Aspekt, der zur Vertrauenswürdigkeit datenintensiver Systeme beitragen kann, ist ihre Erklärbarkeit, d.h. deren Fähigkeit, getroffene Entscheidungen zu erklären, aber auch, allgemeiner, die korrekte Ausführung solcher Systeme nachzuweisen oder zu beweisen. Obwohl in datenintensiven Systemen "korrektes Ausführen" oft nicht klar definiert ist, gibt es Aspekte der "Korrektheit", die nachgewiesen können, für

(i) Daten,

(ii) Algorithmen, die Daten verarbeiten, und

(iii) Entscheidungen, die auf solche Algorithmen basieren

Ziel des Teilprojektes 3 (Erklärbarkeit)ist es, Methoden zu entwickeln, um Erklärungen für die Korrektheit und Reprä- sentativität der Daten sowie Korrektheit und Fairness der Algorithmen, die diese Daten bearbeiten, be- reitzustellen, und um Entscheidungen, die auf datenintensiver Software basieren, zu erklären.