Modul: ML in Production

Viele angehende Data Scientists sind sich folgendes Setup gewohnt: Ein Machine Learning Modell wird mit einem vorhandenen Daten-Export lokal in einem Jupyter Notebook trainiert und evaluiert. Das so trainierte Modell mag zwar gute Resultate erbringen, dies ist jedoch nur der Anfang. Für die professionelle Überführung in den produktiven Betrieb müssen viele weitere Aspekte berücksichtigt werden.

Ein paar Beispiele:

• Betreibst du selbst einen Service oder nutzt du die Cloud? Dazu müssen betriebliche, infrastrukturelle und rechtliche Gesichtspunkte berücksichtigt werden.
• Wie kann ein produktiv betriebenes ML-Modell überwacht werden? Wird dies vernachlässigt, dann läufst du Gefahr, dass dein ML-Modell mit der Zeit schlechtere Resultate liefert (z.B. aufgrund nicht erkannter Änderungen in den Input-Daten), du dies aber nicht bemerkst.
• Wie kann ein neues Modell trainiert resp. mit dem bisherigen verglichen werden um zu prüfen, ob sich dies in der Praxis bessere Resultate liefert?
• Wie wird ein neues Modell ohne Service-Unterbruch bereitgestellt?
  

Modulübersicht

In zwei Unterrichtstagen fokussierst du dich auf die konkrete Umsetzung einer professionellen ML Infrastruktur auf Kubernetes in der Google Cloud und die dafür erforderlichen Konzepte. Du erhältst zuerst einen Überblick über die zentralen Software-Entwicklungsgrundlagen wie Versionierung (auch bezüglich Machine Learning Modellen & Datasets), Packaging oder Pipelines. Im Anschluss steht das Deployment mit Themen wie Deployment Strategien (Canary Release, A/B Testing…), Monitoring/Metriken, High-Availability & Fault-Tolerance im Vordergrund. Abgerundet wird der Teil mit weiterführenden Themen wie Lifecycle Mangement oder Online-Learning. Am Ende dieses Kursteils wurden sämtliche Konzepte praktisch umgesetzt, so dass du im Anschluss selbst in der Lage bist, dein ML-Modell professionell zu betreiben.

Downloads & weitere Informationen

Programm-Reglement Weiterbildung Data Science