Erklärbarkeit durch Surrogate Models – Quadratur des Deep Neural Network

Erklärbarkeit von Modellen wird nicht nur durch die DSGVO gefordert, sondern hilft auch beim Debuggen eines Modells und stärkt das Vertrauen in ein solches Modell.

Deep Neural Networks (DNNs) sind zwar erstklassig wenn es um gute Generalisierung geht, aber in ihren Entscheidungen durch ihre interne Komplexität nur noch schwer nachvollziehbar.

Decision Trees auf der anderen Seite haben in diesem Bereich einen Vorteil, weil man zumindest flache Bäume als ganzes ansehen und jede einzelne Entscheidung nachvollziehen kann. Allerdings neigen sie zu Overfitting, und flache Bäume haben oft nicht die notwendige Ausdruckskraft.

In diesem Vortrag zeige ich anhand eines Notebooks mit TensorFlow 2 und Scikit-learn einen Ansatz, wie man einen Decision Tree als Schüler eines Deep Neural Network nutzen kann und so eine Stellschraube zwischen Ausdruckskraft des DNNs und der Erklärbarkeit eines flachen Decision Tree bekommt.

Vorkenntnisse

* Was ist ein Neuronales Netzwerk und was ein Decision Tree?
* Grundbegriffe des Supervised Machine Learning: Overfitting, Underfitting, Scores, Decision Boundaries, Regularisierung

Lernziele

* Inwieweit kann man den Widerspruch zwischen Ausdruckskraft und Erklärbarkeit auflösen?
* Wie kann man ein Neuronales Netzwerk als Lehrer eines Decision Tree verwenden und welche Vorteile hat das?

 

Speaker

 

Oliver Zeigermann
Oliver Zeigermann ist Entwickler, Architekt, Berater und Coach. Oliver hat über Jahrzehnte in vielen unterschiedlichen Sprachen und mit vielen Technologien Software entwickelt. In den letzten Jahren ist er wieder tiefer in den Bereich Machine Learning eingestiegen. Er knüpft damit an sein Studium der Künstlichen Intelligenz in den 90er-Jahren an. Er ist Autor des Manning Video-Kurses "Deep Learning Crash Course" und Co-Autor des Buchs "Machine Learning – kurz & gut" das bei O’Reilly erschienen ist. Mehr unter http://zeigermann.eu/.

Gold-Sponsor

Novatec

Silber-Sponsor

inovex

M3-Newsletter

Sie möchten über die Minds Mastering Machines
auf dem Laufenden gehalten werden?

 

Anmelden