Local llm
Fellow suit ce sujet depuis juillet 2026 : 16 articles résumés en français, dont 1 jugé majeur ou notable.
Toute l'actualité · 16 articles
Survival LLM : un assistant IA et une bibliothèque d'urgence qui fonctionnent en local sur votre ordinateur
Gratuit et open source, Survival LLM répond hors connexion à des questions d'urgence à partir de sources fiables, en citant les articles consultés pour chaque réponse.
Coder depuis l'Himalaya avec un agent IA hors ligne
Une Principal Engineer de Thomson Reuters, installée dans les contreforts de l'Himalaya, teste un agent de code exécuté localement sur son laptop, sans connexion internet.
Kapitsa : un moteur optimisé Apple Silicon fait tourner Qwen 35B à 160 tokens/s sur M4 Pro
Un nouveau moteur d'inférence baptisé Kapitsa, optimisé pour Apple Silicon, annonce 160 tokens par seconde avec Qwen 35B sur une puce M4 Pro.
Show HN : Llmspeed, estimer la vitesse d'un LLM local avant d'acheter le matériel
Llmspeed permet de visualiser la vitesse ressentie de modèles locaux sur de nombreuses configurations GPU, Mac et cloud, à partir de benchmarks communautaires et d'estimations.
Janas : exécuter des LLM plus gros que la RAM en streamant les experts depuis le SSD
Ce moteur d'inférence en C diffuse les experts des modèles MoE depuis le SSD et revendique 24 tok/s en génération sur Qwen3-Next-80B avec 32 Go de mémoire, contre 2,8 pour llama.cpp.
Otis : un agent IA minimaliste exploitant des modèles locaux
Un nouvel agent open-source permet d'exécuter des modèles d'IA locaux immédiatement pour l'automatisation de tâches.
Tests réels : Qwen2.5 27B sur Mac Studio
Une analyse des performances de Qwen2.5 27B en exécution locale, basée sur des mesures concrètes.
Unsloth lance le format dynamique 3.0 GGUF
Nouveau format GGUF dynamique 3.0 pour optimiser l'inférence locale et l'efficacité des modèles.
Korvo : workspace IA local traçant les réponses aux sources
Un espace de travail IA 'local-first' qui garantit la traçabilité des réponses jusqu'à leur source originale.
Déployez des agents locaux avec LFM2.5-2.6B
LiquidAI et Hugging Face permettent le déploiement d'agents locaux performants via le nouveau modèle LFM2.5-2.6B.
Homebench : benchmark local pour LLM
Un outil pour mesurer vitesse, mémoire et qualité des modèles locaux.
Qwen Scribe : transcription locale sur Apple Silicon
Un outil de dictée et de transcription locale optimisé pour Apple Silicon, exploitant le modèle Qwen.
Benchmark : Qwen 3.6 35B MoE sur RTX 3090
Tests de performance du modèle Qwen 3.6 35B MoE (3B actifs) exécuté localement sur carte graphique NVIDIA RTX 3090.
Trois correctifs pour faire tourner Qwen3.5-122B au quotidien sur Mac Studio
Un développeur corrige trois bugs critiques et parvient à utiliser le LLM Qwen3.5-122B comme outil quotidien sur Mac Studio via MLX.
TradingSpy : un assistant de trading IA local et open source axé sur la confidentialité
Un développeur publie TradingSpy, premier agent de trading IA open source fonctionnant entièrement en local, sans envoi de données vers des serveurs tiers.
Relm : utiliser des LLM locaux comme objets R de base
Un nouveau package R permet d'intégrer des modèles locaux avec une couche d'interprétabilité native.