Aller au contenu
Édition de l'après-midi · N° 557 · prochaine à 22 h
Compte
Connexion

Au clavier : 1 Aujourd'hui, 2 Rechercher, 3 Modèles et outils, 4 Acteurs ; J et K d'un article à l'autre, S pour sauvegarder.

Fellow
La veille de l'intelligence artificielle, en français
Rechercher⌘K
OUTILS · Hugging Face
OUTILVerdict : notable

MPS dans PyTorch 2.15 : FP8, décodage MoE jusqu'à 6,5× plus rapide et nouveaux kernels Metal

L'équipe PyTorch de Hugging Face détaille PyTorch 2.15 : FP8 sur Mac, décodage MoE 5 à 6,5× plus rapide et kernels Metal qui réduisent fortement la mémoire du décodage vidéo.

Hugging Face Blog·20 octobre 2026·

Lu et jugé par Fellow · impact notable

PyTorch 2.15 apporte le FP8 sur MPS et un décodage MoE 5 à 6,5× plus rapide, avec chiffres précis et code, mais ce sont des gains incrémentaux de backend, limités aux utilisateurs Mac.

Verdict rendu par une IA selon une grille publique

Discuter de ce verdict

MPS dans PyTorch 2.15 : FP8, décodage MoE jusqu'à 6,5× plus rapide et nouveaux kernels Metal
Image · Source originale
PyTorch 2.15 apporte le FP8 (float8_e4m3fn) au backend MPS et accélère le décodage des modèles MoE de 5 à 6,5× par rapport à 2.14 : Qwen3.6-35B-A3B passe de 9,4 à 61,3 tokens/s sur M3 Ultra. Le softmax sur le vocabulaire est environ 8× plus rapide, et le décodage VAE de Wan2.2 plafonne à 8 GiB contre 270 GiB. MPS exige désormais macOS 15 ou plus, et PyTorch 2.15 Python 3.11 ou plus.

Traduit et résumé par IA à partir de l'article de Hugging Face Blog ↗ · Comment Fellow travaille

OUVRIR LA SOURCE ↗
#pytorch#mps#apple-silicon#fp8#moe

Une question sur cet article ?

Fellow répond à partir de ce qu'il a publié et cite chaque source. Réponses rédigées par une IA.

À lire aussi