Google lance ML Drift pour accélérer l'inférence sur GPU divers
28 octobre 2026 · 2 min de lecture
Google a publié ML Drift, un moteur d'accélération GPU open-source conçu pour l'inférence sur appareil. Le moteur fonctionne sur des architectures GPU variées et prend en charge OpenGL ES, OpenCL, Metal et WebGPU. Il est publié sous licence Apache 2.0 et vise à simplifier l'accès aux matériels hétérogènes. Google indique que ML Drift offre stabilité pour l'apprentissage automatique traditionnel et performances maximales pour l'IA générative avancée. Le moteur introduit des améliorations majeures par rapport au GPU delegate de TensorFlow Lite, notamment un support unifié des tenseurs à cinq dimensions, des opérations personnalisables et des optimisations spécifiques aux GPU d'Arm, Intel et Qualcomm.
Il permet également une compatibilité desktop via Dawn sur Windows et Linux, tout en conservant le backend natif Metal sur macOS. Des tests internes montrent une réduction de 12 % de la consommation mémoire par rapport à llama.cpp et MLX LM. Des déploiements concrets sur Chrome, YouTube Shorts, Photos et Meet démontrent des gains significatifs : jusqu'à 40 % de latence en moins pour les effets de segmentation sur YouTube Shorts, une amélioration de deux secondes dans Photos, et des gains de 30 % dans Adobe Lightroom et Snapchat pour des fonctionnalités d'édition photo et de génération d'images.
Des experts soulignent que le support natif des tenseurs à cinq dimensions constitue une avancée majeure pour les modèles spatiaux et les transformateurs sur les GPU d'edge, bien que des comparaisons précises avec Core ML restent absentes.