Hallucinations und Retrieval-Augmented Generation
Hallucinations sind eine der größten Herausforderungen von heutigen LLM-basierten Anwendungen, da sie die Vertrauenswürdigkeit der Anwendung erheblich untergraben können.Retrieval-Augmented Generation (RAG) ermöglicht es nicht nur, LLMs auf beliebige Daten anzuwenden, sondern auch Hallucinations zu mindern. Doch selbst mit RAG lassen sie sich nicht vollständig vermeiden.
In diesem Vortrag gibt Thomas einen kurzen Einblick in RAG und zeigt aktuelle Ansätze zur systematischen Erkennung von Hallucinations bis hin zu möglichst automatisierten Lösung dieses kritischen Problems.
Speaker
Thomas Stadelmann ist Senior Software Engineer bei deepset, wo er tagtäglich an professionellen Such-Anwendungen und deren Evaluierung arbeitet. Er unterstützt Kund*innen aus verschiedenen Branchen bei der Erstellung von NLP-Anwendungen für den produktiven Einsatz und findet große Freude daran, die neuesten NLP-Technologien öffentlich zugänglich zu machen.
M3-Newsletter
Du möchtest über die Minds Mastering Machines
auf dem Laufenden gehalten werden?