Bring Your Own (Machine Learning) Model mit TensorFlow Serving

Wir wissen, wie wir Daten aufbereiten, ein Modell erstellen und trainieren - aber dann?

TensorFlow Serving ermöglicht es, trainierte Machine-Learning-Modelle in eine Produktionsumgebung zu bringen. Auf diese Weise kann der Anwender sein eigenes Modell trainieren und anschließend hosten - Bring Your Own Model (BYOM).

Zunächst werde ich einen Überblick zu Tensorflow Serving geben und dazu Codebeispiele, Demos und praktische Beispiele zeigen. Anschließend lernen die Teilnehmer, wie ein Modell innerhalb einer Cloud-Infrastruktur in Produktion gebracht und wie darauf zugegriffen werden kann.

Vorkenntnisse

Ein Verständnis von TensorFlow, Docker und Python sind von Vorteil, aber nicht notwendig. Zuhörer müssen kein eigenes Modell mitbringen. :)

Lernziele

Zuhörer erhalten einen Überblick zu TensorFlow Serving und sieht, wie sich ein selbst trainiertes Modell hosten lässt. Das Augenmerk wird darauf gerichtet sein, das Modell online im Internet zur Verfügung zu stellen, jedoch nicht komplett offen. Hierzu werde ich verschiedene Cloud-Möglichkeiten zeigen, wie z.B. AWS, Azure und GCP, sowie eine Variante im Enterprise-Umfeld mit der SAP Leonardo Machine Learning Foundation.