Security-Schwachstellen im Machine Learning

Machine Learning hat sich in den letzten Jahren zu einer vielversprechenden Technologie entwickelt, die in immer mehr Produkten zu finden ist. Es ist davon auszugehen, dass dieser Trend bestehen bleibt und sich in den nächsten Jahren sogar noch verstärken wird. Auch in sicherheitsrelevanten und lebenskritischen Anwendungen wird Machine Learning zunehmend eingesetzt, und das, obwohl noch immer nicht sehr viel über die Sicherheit dieser Systeme bekannt ist und regelmäßig neue Angriffe veröffentlicht werden.

In diesem Vortrag werden unter anderem Beispiele gezeigt, wie sich Spamfilter (basierend auf Naive Bayes) und Bilderkennungssysteme (Convolutional Neural Networks) austricksen lassen, wie Angreifer Hintertüren in Modelle integrieren können und dass sich sensible Daten aus Modellen zur Erzeugung von Texten extrahieren lassen.

Vorkenntnisse

Grundlagen in Machine Learning sind von Vorteil, aber nicht unbedingt notwendig.

Lernziele

Aktuell beschäftigen sich viele primär mit der Frage, wie Machine Learning verbessert und in Produkte integriert werden kann, und übersehen dabei häufig andere Dimensionen. Ziel ist es, das Publikum bzgl. möglicher Schwachstellen in Machine-Learning-Verfahren zu sensibilisieren, damit potenzielle Risiken beim Einsatz von Machine Learning berücksichtigt werden können.

 

Speaker

 

Daniel Etzold Daniel Etzold ist IT Security-Architekt bei der 1&1 Mail & Media Development & Technology GmbH und ist dort mitverantwortlich für den Secure Software Development Lifecycle. Er führt Bedrohungsanalysen, Reviews und Penetrationstests durch und berät Entwickler, Produktmanager und Führungskräfte in Sicherheitsfragen. Er beschäftigt sich auch mit der Frage welche Risiken und Sicherheitsprobleme durch den Einsatz von Machine Learning entstehen können und wie Machine Learning die Sicherheit von Softwaresystemen erhöhen kann.

Gold-Sponsor

Novatec

Minds Mastering Machines-Newsletter

Sie möchten über den Minds Mastering Machines
auf dem Laufenden gehalten werden?

 

Anmelden