Hallucinations und Retrieval-Augmented Generation

Hallucinations sind eine der größten Herausforderungen von heutigen LLM-basierten Anwendungen, da sie die Vertrauenswürdigkeit der Anwendung erheblich untergraben können.

Retrieval-Augmented Generation (RAG) ermöglicht es nicht nur, LLMs auf beliebige Daten anzuwenden, sondern auch Hallucinations zu mindern. Doch selbst mit RAG lassen sie sich nicht vollständig vermeiden.

In diesem Vortrag gibt Thomas einen kurzen Einblick in RAG und zeigt aktuelle Ansätze zur systematischen Erkennung von Hallucinations bis hin zu möglichst automatisierten Lösung dieses kritischen Problems.