Praxisbericht: ein sich selbst erklärendes, LLM-basiertes Empfehlungssystem

Das Textverständnis vortrainierter Large Language Models (LLMs) eröffnet neue Möglichkeiten für die Entwicklung von Empfehlungssystemen. Jedoch stellen Anforderungen des Datenschutzes, begrenzte Datenbasis und nicht zuletzt der Black-Box-Charakter der LLMs Hürden für ihren Einsatz dar.

In diesem Vortrag berichten wir von der Entwicklung eines sich selbst erklärenden LLM-Empfehlungssystems für eine Online-Lernplattform für Jugendliche, das wir in Zusammenarbeit mit der START-Stiftung entwickeln und das im Anfang 2024 in Betrieb geht.

Wir demonstrieren, wie Erklärbare KI und Feedback-Mechanismen eine selbstbestimmte Nutzung des Empfehlungssystems unterstützen. Darüber hinaus zeigen wir Strategien für datenschutzkonformen und kostengünstigen Betrieb LLM-basierter Lösungen auf.

Vorkenntnisse

Die Teilnehmenden sollten ein gewisses Grundverständnis von LLMs und Natural Language Processing mitbringen – nur so viel, dass sie nach einer kurzen, intuitiven Einführung verstehen, was Embeddings sind und wie sie genutzt werden können, um Texte semantisch zu vergleichen.
Vorkenntnisse im Bereich Erklärbare KI oder Programmierkenntnisse sind nicht erforderlich.

Lernziele

Dieser Vortrag vermittelt von der Konzeption bis zur Implementierung einen praxisnahen Überblick über LLM-basierte Empfehlungssysteme. Die Teilnehmenden lernen, wie sie auf ihre Anforderungen zugeschnittene LLM-basierte Empfehlungssysteme konzipieren und zentrale Herausforderungen im Zusammenhang mit Datenschutz, Datenverfügbarkeit, Nutzerinteraktion und Betrieb in einer Cloud-Umgebung adressieren können.