Llm local
Fellow suit ce sujet depuis juillet 2026 : 13 articles résumés en français.
Toute l'actualité · 13 articles
Show HN : LLMxRay, un outil open source d'observabilité pour les LLM
LLMxRay propose de visualiser en temps réel le streaming de tokens, la qualité, les performances et les coûts de LLM locaux via Ollama, sans cloud ni clé API.
Pourquoi je ne paie pas 20 $ pour ChatGPT, Claude ou Gemini : un LLM local gratuit suffit
Un utilisateur témoigne de son passage aux modèles locaux open-weights, arguant qu'ils couvrent l'ensemble de ses besoins sans abonnement payant.
Ollaya : interface Ollama pour modèles de décision open source
Ollaya propose une approche inspirée d'Ollama pour exécuter localement des modèles de décision de type Jev, intégralement open source.
Commissionnement vérifié par exigences : un modèle local gelé de 4B paramètres comme générateur de candidats sous couche de validation externe
Un protocole de validation sépare la génération de candidats de l'autorité de release. Un LLM local de 4B est encadré par une porte logique externe scellée pour garantir la fiabilité des plans en commissionnement mécatronique.
ROCmFix et InferBench : configuration LLM local sur AMD et benchmark Vulkan vs HIP
Un outil pour simplifier l'installation de ROCm sous AMD et un benchmark comparant les backends Vulkan et HIP pour l'inférence LLM en local.
Un outil permet de faire tourner Qwen3.8 27B sur des GPU Nvidia de 16 Go
Installation en un clic pour exécuter un modèle de 27 milliards de paramètres sur du matériel grand public.
Xiaomi AI Cube et Xring O100 : 1,22 To/s, 330 tokens/s pour un LLM local de 120B
Xiaomi dévoile un appareil dédié à l'IA locale capable de faire tourner un modèle de 120 milliards de paramètres à 330 tokens/s.
Pourquoi votre LLM local semble plus bête qu'il ne l'est réellement
Un article de forum décortique les réglages techniques négligés qui plombent silencieusement les performances des LLM exécutés en local.
Bons résultats pour l'apprentissage d'un nouveau domaine avec Qwen 3 4B
Expériences concluantes d'entraînement de Qwen 3 4B sur un domaine spécifique.
Un système multi-agents pour structurer et vérifier la qualité des comptes rendus de radiologie
Testé sur 638 rapports CT, ce pipeline d'IA locale structure les comptes rendus et détecte incohérences et omissions, validé par des radiologues.
JobRadar : un agent open source de recherche d'emploi qui note les offres avec un LLM local
Un projet open source combine agent de veille et LLM en local pour trier et scorer automatiquement les offres d'emploi.
Ollama lance une nouvelle vague de support pour les modèles open-weights
L'outil de gestion de modèles locaux annonce un élargissement de sa compatibilité avec les modèles ouverts récents.
Un LLM en 1 bit tourne directement dans le navigateur
Une démo Hugging Face fait tourner un modèle quantifié en 1 bit dans le navigateur grâce à WebGPU, sans serveur ni backend.