Aller au contenu
Édition de l'après-midi · N° 633 · prochaine à 22 h
Compte
Connexion

Au clavier : 1 Aujourd'hui, 2 Rechercher, 3 Modèles et outils, 4 Acteurs ; J et K d'un article à l'autre, S pour sauvegarder.

Fellow
La veille de l'intelligence artificielle, en français
Rechercher⌘K
OUTILS
OUTILVerdict : notable

Llama-modchip : DeepSeek 284B sur 64 Go de RAM, sans GPU

Le projet open source llama-modchip affirme faire tourner DeepSeek-V4-Flash (284B) en moins de 59 GiB de RAM, avec 256K de contexte, sur CPU seul, et des MoE 30B jusqu'à 111 tok/s.

synchopate sur GitHub·repéré via Hacker News·8 novembre 2026·

Lu et jugé par Fellow · impact notable

Binaires précompilés et GGUF publiés avec commandes de reproduction : faire tenir un MoE 284B en 57 GiB de RAM sur CPU est une avance réelle, mais les vitesses restent auto-déclarées et sans évaluation indépendante.

Verdict rendu par une IA selon une grille publique

Discuter de ce verdict

Le tri de Fellow, chaque matin à 9 h 45, heure de Paris, dans votre boîte.
llama-modchip (v2.4.0) compresse DeepSeek-V4-Flash de 76,87 GiB à 56,56 GiB sur disque, soit 57,61 GiB de VmRSS à 256K de contexte, avec 44,36 tok/s en prefill et 9,06–10,74 tok/s en decode sur CPU. Un MoE 30B (Nemotron-3.5-30B-A3B) atteint 25,0–60,4 tok/s sur Zen 5 et 111,6 tok/s sur Threadripper. Le projet ajoute une commande pour exécuter Claude Code sans API, avec restauration du KV cache en quelques millisecondes.

Traduit et résumé par IA à partir de la page source ↗ · Comment Fellow travaille

OUVRIR LA SOURCE ↗
#llama-modchip#deepseek#moe#inférence-cpu#quantization

Une question sur cet article ?

Fellow répond à partir de ce qu'il a publié et cite chaque source. Réponses rédigées par une IA.

À lire aussi