MLX: Apples ML-Framework für Apple Silicon wird quelloffen
Das "Array Framework for Apple Silicon" soll maschinelles Lernen auf aktuellen Macs besonders effizient machen. Es kommt mit Python- und C++-API.
(Bild: Machine Learning & Artificial Intelligence / Mike MacKenzie / cc-by-2.0))
Apple hat ein neues Framework für maschinelles Lernen (ML) als Open-Source-Projekt freigegeben. MLX steht seit kurzer Zeit auf GitHub zur Ansicht und zum Download bereit und soll ML-Vorhaben auf Apple-Silicon-Maschinen deutlich effizienter und schneller machen. Es handelt sich dabei um ein sogenanntes Array-Framework, das im Rahmen von Apples ML-Forschung entstanden ist, also bereits intern Verwendung findet.
Modern und effizient
Mitgeliefert wird eine Python-API, die nahe an NumPy ausgerichtet sein soll. Es gibt aber auch eine vollwertige C++-API. High-Level-Packages wie mlx.nn und die mlx.optimizers orientieren sich wiederum an PyTorch, sodass ein direkter Einsatz möglich sein soll, selbst wenn man komplexere Modelle erstellt.
MLX arbeitet mit Lazy Computation, Dynamic Graphs und erlaubt es, die ML-Arbeit auf CPU und GPU zu verteilen (künftig womöglich auch über mehrere Rechner hinweg). Arrays in MLX werden zudem in einem geteilten Speicher (Unified Memory) vorgehalten. Deshalb lassen sich Operationen an den MLX-Arrays auf allen Gerätetypen vornehmen, ohne dass Daten verschoben werden müssten.
"Von ML-Forschern für ML-Forscher"
Apple betont, dass MLX "von ML-Forschern für ML-Forscher" erstellt wurde. "Das Framework soll benutzerfreundlich sein, aber dennoch effizient beim Trainieren und Bereitstellen von Modellen. Auch das Design des Frameworks selbst ist konzeptionell einfach", schreiben die Macher. Mindestvoraussetzung ist ein ARM-gestützer Mac ab dem M1, schnellere Varianten wie M2 und M3 (Pro, Max und M1 / M2 Ultra) helfen bei der Geschwindigkeit.
Man habe sich neben NumPy und PyTorch auch von Jax und ArrayFire inspirieren lassen. Zu den Nutzungsmöglichkeiten zählen das Training von Transformer-Modellen und das Finetuning. Apple hat auch ein Beispiel-Repo erstellt und zeigt Möglichkeiten auf, wie MLX Teil bestehender KI-Open-Source-Projekte wie Stable Diffusion, Whisper oder LLama / LoRA werden kann – etwa als "Stable Diffusion in MLX". MLX lässt sich sehr einfach über PyPi installieren, er reicht die Eingabe "pip install mlx". Eine ausführliche Einführung in Nutzung und Implementierung von MLX findet sich in einer Doku. Apple erhofft sich die Mitarbeit weiterer Entwickler an MLX. Das Unternehmen hat dazu eigene Contribution Guidelines verfasst.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Preisvergleich (heise Preisvergleich) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (heise Preisvergleich) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
(bsc)
