Zurück

Threat Modeling für KI-Anwendungen

Mit zunehmender Adaption von KI in der Praxis kommt der Sicherheit eine besondere Bedeutung zu. Die Komplexität von solchen Systemen, die Konzentration von relevanten Daten und die noch geringen praktischen Erfahrungen sorgen für hohe Anreize für potenzielle Angreifer. Ein sicheres Design bedarf deshalb eines systematischen Vorgehens, um alle Facetten des Themas abzudecken.

In diesem Vortrag stellen wir unsere Adaption der etablierten Methode Threat Modelling für KI-Anwendungen vor: Ausgehend vom bekannten "Four Question Framework" wird der Fokus auf die KI-Komponenten, ihre Besonderheiten und deren Bedrohungssituation gelegt und auch die Umsetzung im Entwicklungsprojekt behandelt.

Vorkenntnisse

Grundlegendes Verständnis zur Entwicklung von ML-Modellen und KI-Systemen

Lernziele

Die Teilnehmenden lernen die Methode Threat Modelling kennen und wie Sie diese in der Praxis einsetzen: Von der Identifikation der schützenswerten Assets über die Aufstellung der Bedrohungsszenarien bis hin zur Ableitung von effizienten Gegenmaßnahmen stellen wir das Vorgehen anhand praktischer Use Cases dar.

Speaker

Clemens Hübner studierte Mathematik und Informatik und schloss mit einer Masterarbeit zur Sicherheit in agilen Entwicklungsmodellen ab. Nach Tätigkeiten als Software Developer sowie im Penetration Testing ist er seit 2018 als Security Engineer bei inovex. Dort begleitet er heute Projekte auf Konzeptions- und Implementierungsebene, schult Kolleg:innen und berät zu Security im Entwicklungsprozesse.

Phuong Mai Mai studierte Informatik mit Schwerpunkt Machine Learning an der Technischen Universität München. Seit 2020 ist sie Machine Learning Engineer bei inovex und berät Kunden bei der Entwicklung datenbasierter Produkte und KI-Lösungen. Dabei legt sie großen Wert auf eine verantwortungsvolle und transparente Softwareentwicklung.

Jetzt Tickets sichern

M3-Newsletter

Sie möchten über die Minds Mastering Machines
auf dem Laufenden gehalten werden?

Anmelden