Zuverlässige KI – Absicherung künstlicher neuronaler Netze

Viele Verfahren des maschinellen Lernens wie etwa Deep Learning werden oftmals als "Black Box" betrachtet, weil es für Menschen unmöglich ist, die internen Entscheidungsprozesse der Verfahren zu verstehen. Für einige Anwendungsfälle, etwa in der Medizin oder im Finanzwesen, sind Sicherheit und Vertrauen jedoch ebenso wichtig wie eine hohe Genauigkeit.

In diesem Vortrag werden wir die folgenden Aspekte des zuverlässigen und vertrauenswürdigen maschinellen Lernens betrachten: Erklärbarkeit, Verifizierung und Quantifizierung der Unsicherheit.

Im Vortrag werden Lösungsansätze vorgestellt und die Vorteile anhand praktischer Anwendungsfälle demonstriert.

Vorkenntnisse

Die Besucher:innen sollten ein Grundverständnis des maschinellen Lernens, insbesondere für künstliche neuronale Netze, mitbringen.

Lernziele

Nach dem Vortrag können die Besucher:innen

• die Dimensionen einer vertrauenswürdigen und zuverlässigen KI benennen
  
• die Herausforderungen bei der Erklärbarkeit, Verifikation und Unsicherheitsquantifizierung verstehen
  
• gängige Lösungsansätze für diese Herausforderungen unterscheiden und ggf. anwenden