Hands-on LLM Security: Schwachstellen und Gegenmaßnahmen

Die enorme Begeisterung für große Sprachmodelle (LLMs), die Ende 2022 durch die Einführung von OpenAIs ChatGPT ausgelöst wurde, hält weiterhin an. Immer mehr Unternehmen versuchen, diese Technologien schnell in ihre Geschäftsabläufe und Kundenangebote zu integrieren. Diese rasante Verbreitung macht die Auseinandersetzung mit den spezifischen Sicherheitsrisiken von LLMs erforderlich.

In diesem Vortrag beleuchten wir typische Schwachstellen in LLMs aus einer praxisorientierten Perspektive. Ausgehend von einer systematischen Übersicht stellen wir anhand einer konkreten Demo-App anschaulich die verschiedenen Angriffsszenarien vor. Prompt Injection, Data Poisoning und System Prompt Leakage werden genauso erklärt und demonstriert wie Angriffe auf RAG- und Agenten-Implementierungen.

Der Vortrag stellt neben einer grundsätzlichen Einführung und einer Präsentation konkreter Verwundbarkeiten auch passende Gegenmaßnahmen vor. Abschließend werden diese um allgemeine Best Practices für die Nutzung von LLMs in Geschäftsanwendungen ergänzt.

Lernziele

• Die Teilnehmenden lernen, welche Schwachstellen bei der Nutzung und Integration von LLMs zu beachten sind.
  
• Sie sehen, wie konkrete Angriffe funktionieren und welche Risiken damit verbunden sind.
  
• Sie erfahren außerdem, welche Gegenmaßnahmen passend sind und wie diese technisch umgesetzt werden können.