KI-Ethik, KI-Security, KI-Safety: Mensch und Maschine – Wer beschützt hier wen?

Wie jede disruptive Technologie bringen KI und insbesondere ML Nutzen und Gefahren mit sich. Die Frage "Wie sicher ist KI?" hat in Wirklichkeit mehrere Dimensionen:

1. Wie kann bzw. wird KI den Menschen schaden? (KI-Safety)
2. Wie können Böswillige KI überlisten, austricksen oder missbrauchen? (KI-Security)*
3. In welchen Fällen lässt sich KI sinnvoll zur Verteidigung einsetzen? (Defensive KI)
4. In welchen Fällen sollten wir uns auf KI-basierte oder -unterstütze Angriffe einstellen? (Offensive KI)

* Zu diesem Punkt siehe auch den Vortrag "Security-Schwachstellen im Machine Learning" von Daniel Etzold am Mittwoch.

Der Vortrag versucht, neben vielen Beispielen vor allem eine Systematisierung der unterschiedlichen Sichtweisen zu geben und daraus die entscheidenden Kategorien und Fragen zu destillieren, die sich alle stellen sollten, die KI erforschen oder nutzen wollen bzw. müssen.

Vorkenntnisse

* Kenntnisse in KI bzw. Machine Learning und deren Anwendungsfeldern werden benötigt.
* Nützlich, aber nicht zwingend erforderlich sind Grundkenntnisse der Fragestellungen von Security.
* Als Vorbereitung kann der Vortrag von Daniel Etzold am Dienstag genutzt werden.