Machine Learning: Charmed Kubeflow 1.7 integriert Knative für Serverless ML
Das neue Release von Charmed Kubeflow verspricht einfacheres Training und Optimieren sowie effizienteres Bereitstellen von ML-Modellen in Kubernetes.
(Bild: Peshkova / shutterstock.com)
Ubuntu-Distributor Canonical hat seine MLOps-Plattform Charmed Kubeflow in Version 1.7 vorgelegt. Dank der Integration von Knative eröffnet das neue Release Unternehmen die Möglichkeit, Machine-Learning-Modelle auf Kubernetes auch als eventgetriebene Serverless-Anwendungen auszuführen. Darüber hinaus stellt KServe eine Custom Resource Definition (CRD) für Inferenz und das Modell-Serving bereit. Eine überarbeitete Benutzeroberfläche für Katib soll Data Scientists zudem das Hyperparameter-Tuning in Charmed Kubeflow vereinfachen.
Mehr Automatisierung und flexible Skalierung für ML-Workflows
Die an das von Google initiierte Open-Source-Projekt Kubeflow angelehnte Werkzeugsammlung zum Automatisieren der Workflows für das Training, Tuning und Bereitstellen von ML-Modellen erweitert mit der Integration von Knative ihre Serverless-Fähigkeiten. Erklärtes Ziel ist es laut Ankündigung im Ubuntu-Blog, Entwicklerinnen und Entwickler sowie Data Scientists bei routinemäßigen Aufgaben rund um die Infrastruktur zu entlasten. Sie sollen einerseits von den Vorzügen automatisch skalierter Machine-Learning-Prozesse in Serverless Containern profitieren und sich darüber hinaus auch beim Modell-Serving und Inferenz ganz auf die Arbeit mit dem von ihnen bevorzugten ML-Framework (TensorFlow, XGBoost, ScikitLearn, PyTorch, ONNX etc.) konzentrieren können.
Mit Blick auf ein effizienteres Optimieren von ML-Modellen hat Canonical die AutoML-Komponente Katib mit einer neuen Benutzeroberfläche ausgestattet. Data Scientists erhalten dadurch direkteren Zugriff auf Logs – auch das Hyperparameter-Tuning soll sich einfacher gestalten. Eine Tune API in Katib eröffnet darüber hinaus unmittelbar Zugang zu den Versuchsmetriken in der Datenbank, sodass sich Optimierungsexperimente leichter und schneller einrichten lassen.
Deep Learning im industriellen Maßstab
Zum Erstellen von Deep-Learning-Modellen für den industriellen Einsatz bietet Charmed Kubeflow 1.7 erstmals eine Anbindung an die Open-Source-Plattform PaddlePaddle, die unter anderem Online-Training großer Deep Neural Networks mit Milliarden Merkmalen und Billionen von Parametern aus verteilten Datenquellen ermöglicht.
Zu den weiteren Neuerungen in Version 1.7 zählen verschiedene Dashboards, die zu umfassenderer Observability beitragen sollen – etwa im Hinblick auf die Infrastruktur. Als weiteres Framework für das Modell-Serving ist Nividia Triton hinzugekommen. Zudem hat Charmed Kubeflow erfolgreich die Zertifizierung für Nvidia DGX absolviert.
Einen kompletten Überblick aller Verbesserungen und neuen Funktionen in Charmed Kubeflow 1.7 fasst der Ubuntu-Blogbeitrag zur Ankündigung des neuen Release zusammen.
(map)