Zurück

MLOps – wie bringt man ein ML-Modell in Produktion und hält es dort?

MLOps beschäftigt sich mit der Herausforderung, ein Machine-Learning-Modell in Produktion zu bringen und es dort erfolgreich zu betreiben.

Dementsprechend besteht der Workshop aus drei Teilen:

  1. Professionalisierung: Umwandlung eines bestehenden Notebooks in Libraries, Tests, Scripte und ein resilientes Modell
  2. Produktivsetzung: Erstellen eines OpenAPI Server, Betrieb mit Docker und Kubernetes
  3. Monitoring: Drift Detection mit Prometheus, Evidently und Grafana
Dieser Workshop hat den Schwerpunkt auf den späteren Phasen eines ML-Projekts, also der Professionalisierung und dem Betrieb.

Vorkenntnisse

Als ML-Werkzeug werden wir TensorFlow nutzen, allerdings ist dies nur ein Beispiel, und alles Gezeigte gilt auch für alle anderen Frameworks. Es wird lediglich Erfahrung mit Python und ein Verständnis für ein Machine-Learning-Projekt vorausgesetzt. Alles andere wird soweit nötig im Workshop eingeführt.

Lernziele

Teilnehmer:innen sollen anhand eines in sich stimmigen Satzes von Werkzeugen die Konzepte und Ansätze im Bereich MLOps kennenlernen und diskutieren können.

Agenda

ab 09:00 Uhr: Registrierung und Begrüßungskaffee (Wer noch Hilfe bei der Installation braucht, kann bereits jetzt erscheinen) 10:00 Uhr: Beginn
Einleitung / Grundlagen (Olli 1h)
  • Unser Beispiel
  • Unser Ausgangspunkt: Notebooks
  • Übersicht MLOps
Professionalisierung (Yannick 1,5h)
  • Bestehendes Notebook professionalisieren
  • Das Modell mit FastAPI via REST bereitstellen
  • Einführung in die Containerisierung
  • Training und Deployment in Containern
Ausblick auf den Block nach der Mittagspause
  • Mit vorhandener Infrastructure as Code einen Cluster erzeugen
12:30 - 13:30 Uhr: Mittagspause
Betrieb (Tobi 1,5h)
  • Aufsetzen eines Clusters mittels Terraform in Kind
  • Überblick über die verschiedenen Anwendungen im Cluster
  • Die Build und Trainings-Pipeline ausführen (CI)
  • Deployment der ML Anwendung und des Modells (CD)
15:00 - 15:15 Uhr: Kaffeepause
Monitoring (Olli 1h)
  • Drift verstehen und detektieren
  • Drift Detection mit Prometheus, Evidently und Grafana
16:15 - 16:30 Uhr: Kaffeepause
Abschluss (Alle 0,5h)
  • Zusammenfassung
  • Offene Fragen
  • Ausblick
ca. 17:00 Uhr: Ende

 

Technische Anforderungen

Die Teilnehmer:innen benötigen einen zeitgemäßen Laptop mit freiem Internet-Zugang und Admin-Rechten.
Notwendige Software, Voraussetzung für die Teilnahme, bitte schon vor dem Workshop installieren:
Falls ihr ein Gerät eurer Firma verwendet, überprüft vorher bitte, ob eines der folgenden, gelegentlich vorkommenden Probleme bei euch auftreten könnte.
  • Workshop-Teilnehmer:in hat keine Administrator-Rechte.
  • Corporate Laptops mit übermäßig penibler Sicherheitssoftware
  • Gesetzte Corporate-Proxies, über die man in der Firma kommunizieren muss, die aber in einer anderen Umgebung entsprechend nicht erreicht werden.

Speaker

 

Oliver Zeigermann
Oliver Zeigermann ist Softwareentwickler aus Hamburg. Er entwickelt seit über 35 Jahren Software mit unterschiedlichen Ansätzen und Programmiersprachen. In letzter Zeit hat er sich vor allem mit Machine Learning und dessen Kommunikation mit dem Menschen beschäftigt.

Tobias Kurzydym
Tobias Kurzydym ist Enterprise Entwickler aus Oldenburg. Während seiner 7 Jahre als Software-Entwickler beschäftigte er sich neben der Enterprise Entwicklung mit Quarkus und Spring in seinen letzten 2 Jahren bei Open Knowledge viel mit Cloud Native und DevOps Themen. Jetzt verlagert sich der Schwerpunkt auf MLOps. Neben der Arbeit findet man ihn in der Boulderhalle.

Yannick Habecker
Yannick Habecker ist Software Developer aus Oldenburg. Seit seinem Masterstudium mit Schwerpunkt Machine Learning beschäftigt er sich insbesondere mit Deep Learning. Bei der open knowledge GmbH bringt er seine beiden Leidenschaften Software Development und Machine Learning zusammen.

 

Jetzt Tickets sichern

M3-Newsletter

Ihr möchtet über die Minds Mastering Machines
auf dem Laufenden gehalten werden?

 

Anmelden