Von PyTorch zu Core ML – Schritt für Schritt
Wie ein PyTorch-Modell mit coremltools zum ML Program wird, was dabei im MIL-Graphen passiert, wie man es mit Int8, Int4, Palettisierung oder Pruning verkleinert und wie man es in Swift auf CPU, GPU und Neural Engine laufen lässt. Alle Beispiele stammen aus einer echten Konvertierung eines Mini-Modells – die Ausgaben sind als Daten eingebunden.
📚 Kapitel
Core ML im Apple-Stack, CPU/GPU/Neural Engine, .mlmodel vs. .mlpackage vs. .mlmodelc
trace/export → ct.convert → Metadaten → .mlpackage, Graph PyTorch ↔ MIL, flexible Shapes, scale/bias-Rechner
FP16, Int8/Int4, Palettisierung, Pruning – Größenrechner und echte Messwerte
TensorFlow, scikit-learn, XGBoost, ONNX-Status, Create ML, Model Zoo, Xcode – und warum es keinen Rückweg gibt
generierte Klasse, MLModelConfiguration, async, MLMultiArray, Vision, Laden zur Laufzeit, SwiftUI
echte Fehlermeldungen, Toleranzen, Performance-Report, Deployment-Matrix
Mini-Modell im Browser: FP32 → FP16 → Int8/Int4/Palette/Pruning, echter MIL-Graph
alle Belege mit Stand
🔍 Was ist echt, was simuliert?
- Echt: TorchScript-/Export-Graph, MIL-Ops,
model.mil, Spec, Paketgrößen und Core-ML-Vorhersagen – erzeugt mit coremltools 9.0 und torch 2.7.0 auf macOS, als Golden-Files im Repo. - Im Browser gerechnet: die Mini-Modell-Inferenz (FP32 exakt, Int8/Int4/Pruning bitgenau wie coremltools, FP16 als Nachbildung) und alle Rechner.
- Nicht ausführbar: Swift-Code – Core ML läuft nur auf Apple-Geräten. Die Beispiele nutzen nur APIs, deren Signatur in der Apple-Doku belegt ist.
Fakten geprüft am 28.09.2026 gegen Apple Developer Documentation, coremltools-Guides/Release-Notes und PyTorch-Doku.
🧭 Schwester-Apps
- VisualPyTorch – Tensoren, Autograd, Trainingsschleife – die PyTorch-Grundlagen vor der Konvertierung.
- VisualLLM-cpp – llama.cpp, GGUF und Q4/Q8-Quantisierung – der andere Weg für Sprachmodelle auf dem Gerät.
- VisualMicroGPT – Ein winziges GPT im Browser trainieren – Transformer von innen.
Hier geht es nur um den Weg ins Apple-Ökosystem – PyTorch-Grundlagen und LLM-Quantisierung stehen dort.