Fine-tuning

Résultats vérifiables et significatifs : scores IOI 2026 (535.4/600, au-dessus du seuil or et du meilleur humain) et IMO 2026 (30/42, au-dessus du seuil or) obtenus par fine-tuning de Nemotron, avec modèles, données et recettes publiés en open source sur Hugging Face.

Une méthode insère un canary image via un masque passe-bas dans chaque image d'un dataset, puis détecte ce signal dans les sorties d'un modèle text-to-image suspect fine-tuné dessus.

L'équipe Dharma-AI présente VocabX, une méthode qui reconstruit le vocabulaire d'un SLM selon le coût de chaque token et non sa fréquence, sans changer le modèle de base.

Un développeur publie qwen3-4b-deslop-v4, un dérivé de Qwen3-4B-Instruct-2507 affiné par LoRA pour réduire les tics stylistiques des LLM, utilisable en local via Ollama ou llama.cpp.

Vertexcover a fine-tuné Qwen3-235B-A22B-Thinking sur quatre H100 : +7,6 points de F1 en moyenne par rapport au modèle de base, pour un coût par token d'environ un tiers de celui des API. Le modèle n'a pas été déployé.

Une étude montre que le fine-tuning d'un LLM sur un comportement peut en déclencher un autre lorsque les deux étaient associés dans des documents d'entraînement, et que ces couplages peuvent se composer.

Un écosystème de recherche combine dataset de 2M de programmes 3D exécutables et harness multi-agents pour que des agents de code créent des contenus 3D éditables et vérifiables.

HiRe-MoMa affine une politique de base figée pour la manipulation mobile : environ 30 minutes d'interaction en ligne sur le robot TIAGo++ suffisent à améliorer les performances.

Google DeepMind et GovTech Singapore s'appuient sur des modèles Gemma légers, exécutés sur l'appareil, pour repérer les arnaques conversationnelles dans les messageries privées.

Standard Bots, qui vient de lever 200 M$ pour une valorisation d'1 Md$, détaille son stack IA : un modèle de base partagé adapté par démonstrations et fine-tuning.

Hugging Face illustre comment bâtir un modèle sur mesure lorsqu'aucune solution existante ne convient, en s'appuyant sur son approche « ML Intern » pour automatiser la démarche.

Des chercheurs proposent une méthode pour modifier des faits dans les LLM sans altérer le reste du modèle, en exploitant les architectures à mémoire conditionnelle comme DeepSeek Engram.

Une étude finlandaise révèle que les modèles d'embedding peinent à suivre les instructions de retrieval en présence de distracteurs côté requête, et propose un fine-tuning ciblé pour y remédier.

NVIDIA démontre qu'un même modèle de base, Nemotron, peut atteindre le niveau or aux compétitions IOI et IMO 2026 grâce à des stratégies de fine-tuning distinctes.

Un framework où politique, curriculum et juge co-évoluent pour permettre l'auto-amélioration continue d'agents en robotique et conduite autonome.

Une nouvelle méthode d'entraînement permet à un modèle de produire en une seule génération des réponses aussi précises qu'avec un échantillonnage coûteux à 64 candidats.

Une méthode cible uniquement les tokens-pivots les plus déterminants pour affiner les dLMs, avec un gain de performance à faible coût d'entraînement.

ServiceNow-AI dévoile une méthode pour synthétiser des jeux de données destinés à entraîner des agents IA en contexte professionnel.

Un nouvel optimiseur réduit de 174× la mémoire d'état par rapport à AdamW8bit, rendant possible le fine-tuning complet de modèles 30-32B sur du matériel limité.

Un framework léger découple direction et taille de pas d'optimisation, avec garanties théoriques et gains de performance sur plusieurs LLM.

Cloudflare dévoile Clef, une famille de modèles de décision à poids ouverts, accompagnée d'une plateforme de fine-tuning par renforcement.

NVIDIA détaille le fine-tuning de son modèle Nemotron pour améliorer la reconnaissance vocale des dialectes arabes régionaux, souvent mal couverts par les benchmarks multilingues.

Une étude sur GPT2 et DistilGPT2 montre que délier les embeddings améliore précision et efficacité mémoire en entraînement différentiellement privé.

Une méthode de fine-tuning basée uniquement sur des explications rétrospectives rivalise avec GRPO sur SWE-bench, sans reward ni verifier.

Un billet technique détaille l'adaptation du modèle GLM-5.3-Flash pour en faire un système de décision rapide inspiré du concept de 'System One'.

Un fine-tuning auto-supervisé basé sur la confiance réduit de 25% les tokens générés par les modèles de raisonnement, sans perte de précision.

Une méthode qui fige les anciens adaptateurs LoRA et n'autorise que des lectures en une seule direction pour ajouter de nouvelles compétences sans interférence.

Un article de blog décortique le RLCD, une technique d'entraînement par renforcement citée comme clé du modèle Jev.

Le fine-tuning des encodeurs visuels pour la reconstruction réduit la dimensionnalité effective des latents, rendant le flow matching sous-optimal. La prédiction x₀ résout ce problème.

Une méthode de transfert séquentiel par LoRA permet de prédire la sévérité de la dépression via des LLM, même avec peu de données cliniques et à travers les barrières linguistiques.

Un nouveau modèle du monde corrige les raisonnements bruités des agents LLM plutôt que de simuler les retours des outils.

L'atténuation de l'oubli catastrophique lors du fine-tuning pour la traduction préserve les capacités générales, mais échoue sur les instructions de contrôle spécifiques à la traduction.

Une méthode pour transférer les bénéfices d'un harnais d'agent optimisé vers un modèle, sans dépendre de ce harnais au déploiement.

Un chercheur entraîne un petit LLM spécialisé pour optimiser les plans d'exécution de requêtes SQL, surpassant l'optimiseur natif de PostgreSQL.

ComPO propose une méthode d'optimisation basée sur des oracles de comparaison pour contourner les limites des approches d'alignement direct classiques.

Une infrastructure convertit les dépôts de code scientifique en environnements exécutables pour entraîner et évaluer des agents IA.

Retour d'expérience sur l'usage des modèles OpenAI, du fine-tuning et de la mémoire pour automatiser la gestion des e-mails.

Une étude empirique sur huit jeux de données CGM montre que le fine-tuning léger surpasse les modèles zero-shot pour la prévision glycémique.

Tiny Aya L2-Thinker prouve qu'un mélange data-centric optimisé généralise le raisonnement L2 à 60 langues sans supervision extensive.

Un développeur raconte comment il a entraîné un système IA à捕capturer ses préférences esthétiques et éditoriales spécifiques.

Une étude montre que l'imitation naïve d'un expert dégrade les performances des petits modèles agentiques, contrairement à une correction ciblée sur leurs propres trajectoires.

Un nouveau benchmark et une méthode de synthèse par exécution permettent à un modèle open-source de 9B de rivaliser avec un 27B non affiné.

Une méthode de compilation qui transforme une description textuelle en petit modèle spécialisé, autonome et réutilisable, sans dépendre d'un LLM distant.

Hugging Face montre comment améliorer les sorties structurées d'un petit modèle via GRPO avec TRL, en seulement 100 étapes d'entraînement.

Une étude montre que le feedback utilisateur améliore réellement les révisions de modèles, mais que les juges LLM échouent à le reconnaître.

Nemotron-3-Ultra-CC dépasse le meilleur score humain à l'IOI 2026, une première pour un système d'IA sur ce type d'épreuve.

Analyse mécaniste de l'évaluation automatique par LLM pour identifier les couches responsables de la notation.

Cette méthode génère des simulateurs individualisés capables de mimétisme comportemental et de réactivité aux corrections pédagogiques.

Une perspective industrielle sur l'ingénierie des données de post-training, entre budgets contraints et gains mesurables sur des benchmarks de code.

Une nouvelle méthode corrige le biais de représentation lors du merging de LLMs en pondérant l'erreur par l'entropie.

CAST utilise des autoencodeurs épars pour détecter et supprimer les artefacts de notes médicales, rendant les prédictions de mortalité plus robustes et traçables.