Eigene Sprachmodelle feintunen und nutzen

---

Dieser Workshop findet am 23. April 2024 in Köln statt.

---

ChatGPT (und die darin verwendeten GPT-3.5 und GPT-4) sind die bekanntesten Sprachmodelle. Leider kann man diese aber nur wenig anpassen, das geht maximal über den Kontext.

In vielen Unternehmensanwendungen würde man das aber gerne machen, um z.B. domänenspezifisches Vokabular abzudecken. Im Gegensatz zum Training ist das Feintuning von Modellen viel schneller, auch dank LoRA (Low Rank Adaptation) und peft (Parameter Efficient Tuning).

Nach einem kurzen Abriss der Theorie widmen wir uns dem Feintuning eigener Modelle und probieren dann aus, was diese gelernt haben und wie viel Wissen sie reproduzieren können.

Vorkenntnisse

Alle Aufgaben werden mit Python durchgeführt. Es sind keine schwierigen Programme, aber gewisse Grundlagen in Python sind sehr hilfreich.

Lernziele

• Funktionsweise von Sprachmodellen verstehen
  
• Grundlagen der Quantisierung
  
• Verständnis des FInetunings (LoRA, peft)
  
• Performance und Speicheranforderungen von LLMs beurteilen können