Inbetriebnahme von Modellen durch ONNX auf dem iPhone

Modelle können heutzutage mit ein wenig Aufwand auf verschiedensten Server Umgebungen in Betrieb genommen werden. Doch wie sehen die Möglichkeiten aus, wenn ein Model auf einem mobilen Endgerät deployed werden muss? Eine Möglichkeit ist Open Neural Network Exchange (ONNX), ein Standard, um Modelle zwischen den Frameworks auszutauschen.

Der Vortrag wird zunächst eine Einführung in ONNX geben und anschließend zeigen, wie ein Modell auf einem Smartphone verwendet werden kann. Dazu wird gezeigt, wie ein mit PyTorch trainiertes Modell mit ONNX konvertiert und anschließend durch CoreML auf einem iOS-Gerät deployed wird. Dabei wird hervorgehoben, welche Details es hierbei zu beachten gilt und weshalb sich Apples AI-Hardware als Laufzeit der Modelle eignet.

Vorkenntnisse

Keine Vorkenntnisse notwendig

Lernziele

Ziel des Vortrags ist es, eine Einführung zu ONNX zu geben und anschließend zu zeigen, wie ein Modell auf einem Smartphone verwendet werden kann.

 

Speaker

 

Nico Axtmann Nico Axtmann entwickelt als Machine Learning Engineer datengetriebene Produkte und Lösungen. Derzeit konzentriert er sich vor allem auf die Inbetriebnahme von Modellen in produktiven Umgebungen.

Gold-Sponsor

Novatec

Minds Mastering Machines-Newsletter

Sie möchten über den Minds Mastering Machines
auf dem Laufenden gehalten werden?

 

Anmelden