smolmaxxing : faire tourner des LLM sur des appareils petits et anciens
Un projet open source pousse l'inférence de LLM sur box TV, iPad Air de 2013 et autres appareils modestes, avec noyaux personnalisés, pagination des experts depuis la flash et mesures sur matériel réel.
Lu et jugé par Fellow · impact léger
Dépôt open source avec patchs llama.cpp, modèles téléchargeables et mesures sur appareils réels (TV box, iPad 2013) ; portée limitée à un usage de niche, sans reprise par d'autres sources.
Traduit et résumé par IA à partir de la page source ↗ · Comment Fellow travaille
Une question sur cet article ?
Fellow répond à partir de ce qu'il a publié et cite chaque source. Réponses rédigées par une IA.
À lire aussi
- Huawei publie MACaQ, son outil interne de quantification pour l'inférence locale11 novembre 2026
- Show HN : Hob, alternative open-source et locale à Claude Cowork et ChatGPT26 octobre 2026
- L'architecture des LLM open-weights : MoE, couches hybrides et poids ternaires5 novembre 2026
- Paradee : distiller Kokoro-82M en un modèle TTS mono-voix de 8M de paramètres5 octobre 2026
- Un cluster d'ESP32-S3 fait tourner un modèle de langage BitNet en 1,58 bit28 septembre 2026
- Olmo-core 3 : une infrastructure d'entraînement ouverte et scalable pour les grands MoEHugging Face · 1 octobre 2026