Aller au contenu
Édition de l'après-midi · N° 633 · prochaine à 22 h
Compte
Connexion

Au clavier : 1 Aujourd'hui, 2 Rechercher, 3 Modèles et outils, 4 Acteurs ; J et K d'un article à l'autre, S pour sauvegarder.

Fellow
La veille de l'intelligence artificielle, en français
Rechercher⌘K
OUTILS
MODÈLEVerdict : léger

Show HN : Maple, élagage MoE sous 2 BPW pour faire tourner Gemma 4 26B à 45 TPS sur un GPU de 6 Go

Le projet open source Maple élague les experts dormants d'un modèle MoE et ramène Gemma 4 26B-A4B de 9,92 à 4,75 Go, pour une exécution entièrement en VRAM sur GPU portable de 6 Go.

AmSach sur GitHub·repéré via Hacker News·8 novembre 2026·

Lu et jugé par Fellow · impact léger

Projet indépendant open source avec scripts et GGUF publiés sur Hugging Face, mesures sur un seul GPU portable et benchmark maison de 4 tâches, sans évaluation indépendante.

Verdict rendu par une IA selon une grille publique

Discuter de ce verdict

Le tri de Fellow, chaque matin à 9 h 45, heure de Paris, dans votre boîte.
Show HN : Maple, élagage MoE sous 2 BPW pour faire tourner Gemma 4 26B à 45 TPS sur un GPU de 6 Go
Image · Source originale
MAPLE (Manifold-Activated Pruning of Latent Experts) profile les activations d'experts via llama-imatrix, les note selon une métrique fréquence-énergie, puis assemble un conteneur GGUF. Le checkpoint de Gemma 4 26B-A4B, orienté code et raisonnement STEM, passe à 48 experts actifs, soit 1,48 bit effectif par paramètre, et atteint 45,4 tokens/s. Les scripts sont fournis pour d'autres domaines et le GGUF est publié sur Hugging Face.

Traduit et résumé par IA à partir de la page source ↗ · Comment Fellow travaille

OUVRIR LA SOURCE ↗
#moe#pruning#quantization#gemma#llama.cpp

Une question sur cet article ?

Fellow répond à partir de ce qu'il a publié et cite chaque source. Réponses rédigées par une IA.

À lire aussi