Entwicklung robuster & skalierbarer RAG-Systeme: Lessons Learned aus fünf Anwendungsfällen

Retrieval Augmented Generation ermöglicht den effektiven Einsatz von Sprachmodellen in Unternehmen und bietet vielseitige Anwendungsmöglichkeiten.

In unserem Vortrag teilen wir unsere Erkenntnisse aus fünf Anwendungsfällen, beleuchten Herausforderungen und präsentieren einen robusten Technologie-Stack auf Basis von Open-Source-Bibliotheken.

Schwerpunkte sind

• die Entwicklung eines modularen Kernsystems für verschiedene Use Cases,
  
• eine skalierbare Bereitstellung mittels Infrastructure-as-Code und
  
• Evaluationsmethoden zur Qualitätsbewertung von RAG-Systemen.

Ziel ist es, praktische Lösungsansätze für eine effiziente und zukunftssichere Implementierung von RAG-Systeme zu vermitteln.

Vorkenntnisse

Basisverständnis von Sprachmodellen und RAG-Systemen wird empfohlen.

Lernziele

• Einblicke in konkrete technische Herausforderungen und Lösungsstrategien anhand von fünf unterschiedlichen RAG-Anwendungsfällen,
  
• Erlernen praktischer Techniken zur automatisierten skalierbaren Bereitstellung von RAG-Infrastrukturen mittels Infrastructure-as-Code,
  
• Vermittlung von Methoden zur quantitativen und qualitativen Evaluierung von RAG-Systemen