Sensible Daten aus ML-Modellen extrahieren und wie man sich davor schützen kann

Inzwischen ist bekannt, dass maschinelles Lernen auf unterschiedliche Arten angegriffen werden kann. Klassifikationssysteme können mit speziell präparierten Eingaben ausgetrickst werden und wie auch bei Softwaresystemen, können auch in Modelle Hintertüren während des Trainings eingebaut werden.

In diesem Vortrag wird eine weitere Schwachstelle gezeigt, nämlich wie Trainingsdaten aus einem einfachen Machine-Learning-Modell extrahiert werden können. Je nach Art des trainierten Modells könnte ein Angreifer somit Zugriff auf höchst sensible Daten erhalten. Es wird weiterhin gezeigt, wie man solche Angriffe mit Hilfe von Differential Privacy verhindern kann.

Vorkenntnisse

Grundlagen über Neuronale Netze.

Lernziele

Ziel ist es, das Publikum über mögliche Schwachstellen in Machine-Learning-Modellen zu sensibilisieren, sodass potenzielle Risiken, die beim Einsatz von maschinellem Lernen auftreten können, bekannt sind.