Kapitsa : un moteur optimisé Apple Silicon fait tourner Qwen 35B à 160 tokens/s sur M4 Pro
Un nouveau moteur d'inférence baptisé Kapitsa, optimisé pour Apple Silicon, annonce 160 tokens par seconde avec Qwen 35B sur une puce M4 Pro.
Lu et jugé par Fellow · impact léger
Moteur d'inférence communautaire pour Apple Silicon avec un chiffre de débit annoncé (160 tok/s), sans protocole ni reproduction indépendante ; portée limitée aux utilisateurs Mac.
Traduit et résumé par IA à partir de l'article de reddit.com ↗ · Comment Fellow travaille
Une question sur cet article ?
Fellow répond à partir de ce qu'il a publié et cite chaque source. Réponses rédigées par une IA.
À lire aussi
- Inférence LLM locale et distribuée avec MLX et RDMA sur Mac Studio16 octobre 2026
- Minions : un cloud GPU virtuel distribué bâti sur des appareils Apple Silicon inactifs13 octobre 2026
- DeepSeek-V4.1 Flash : repousser les limites de la compression du KV cache17 septembre 2026
- Show HN : faire tourner un Qwen 80B dans 4,3 Go de RAM sur Mac, et un 35B sur iPhone3 août 2026
- Vitesses d'inférence LLM mesurées sur Apple Silicon, données brutes publiées28 juillet 2026
- H3.c : inférence native pour MiniMax-H3 sur Apple Silicon11 août 2026