Apprentissage par renforcement
Fellow suit ce sujet depuis avril 2026 : 190 articles résumés en français, dont 48 jugés majeurs ou notables.
Les sorties majeures
Kimi K3.1 Pro et K3.1 Pro Highspeed : Moonshot dévoile ses nouveaux modèles open-weight
Modèle disponible dès maintenant via Kimi.ai et l'API, avec benchmarks publics (Terminal-Bench 65,7 %) proches des modèles propriétaires et poids ouverts annoncés d'ici le 4 novembre.
Toute l'actualité · 190 articles
Kimi K3.1 Pro et K3.1 Pro Highspeed : Moonshot dévoile ses nouveaux modèles open-weight
Kimi K3.1 Pro, modèle open-weight de classe 3T avec 1 million de tokens de contexte, vise le niveau des modèles propriétaires en coding et agents. Une version Highspeed est 2 à 3 fois plus rapide.
Utiliser des agents IA pour apprendre à marcher en simulation à des robots comme Microduck
NVIDIA détaille comment des agents IA peuvent aider à enseigner la marche à un robot en simulation, de la création des assets à l'entraînement et à l'évaluation, pour franchir un parcours d'obstacles.
Transformer l'évaluation par base de données en récompenses RL : post-entraîner des agents avec ThinkingBox
Microsoft et Hugging Face réutilisent les vérifications exécutables de ThinkingBox comme récompenses : sur Qwen3.8-27B, le succès moyen passe de 51,70 % à 60,78 % après 50 steps GRPO.
LongZero : renforcer le raisonnement long contexte des LLM à partir de zéro donnée
Des chercheurs proposent LongZero, une méthode où un LLM améliore seul son raisonnement sur contexte long, sans corpus externe ni modèle enseignant, via GRPO.
Environment Duels : un microcosme de la co-évolution des LLM
Un nouveau benchmark agentique fait écrire des environnements interactifs à neuf LLM de pointe pour mesurer leurs capacités de créateur et de solveur, révélant deux compétences distinctes.
La distillation on-policy asymétrique apprend l'exploration in-context
ASTEROID, un cadre étudiant–enseignant supervisé, apprend à explorer au moment du test sous observabilité partielle, sans le coût en données de l'apprentissage par renforcement en ligne.
AtomicRL : apprentissage par renforcement atomique pour la manipulation robotique à long horizon
Un framework de post-entraînement RL exploite la structure de tâches atomiques pour améliorer l'attribution du crédit et l'exploration des politiques VLA, avec un pipeline Real2Sim2Real vers les robots physiques.
Apprendre des compétences dextres adaptables par imitation hybride (Hybrid Dexterous Mimicking)
AdaDex transforme une seule trajectoire main-objet de quelques secondes en compétence dextre adaptable, en combinant suivi de mouvement et généralisation par reinforcement learning.
Apprentissage par renforcement avec auto-distillation on-policy à attribution visuelle
Des chercheurs proposent VAG, un mécanisme de filtrage qui ne retient que les corrections token par token appuyées par la preuve visuelle, afin d'éviter la contamination dans le RL multimodal.
Entraîner un agent imaginatif : le framework Agentic Imagination (Agima)
Agima entraîne un modèle omni unique à proposer des actions, générer des images de leurs conséquences et raisonner sur ces futurs imaginés avant d'agir dans l'environnement réel.
CocoRNA : conception collective d'ARN par apprentissage par renforcement multi-agents coopératif
Un framework de multi-agent reinforcement learning décompose la conception inverse d'ARN en sous-problèmes et surpasse l'état de l'art sur Rfam en taux de réussite et en vitesse.
La « fuite de réflexion » dans l'apprentissage par renforcement des LLM
Une étude suggère que les gains du RL en mode NO-THINK sur les modèles hybrides comme Qwen3 viennent surtout d'une réactivation du mode THINK d'origine, plutôt que d'un raisonnement amélioré.
OmniVerifier-C1 : un vérificateur gradué décomposé pour la modélisation générative de mondes régie par des règles
Des chercheurs proposent un vérificateur visuel qui décompose les prompts complexes en sous-composants et attribue des scores continus, plutôt qu'un simple jugement binaire vrai/faux.
MLExpert : vers un modèle agentique généraliste pour l'ingénierie du machine learning autonome
Des chercheurs proposent une méthode de post-training pour l'optimisation autonome de projets de machine learning sur le long terme, appliquée à MLExpert, un modèle MoE de 35B paramètres.
Apprentissage par renforcement robuste pour les régimes de traitement dynamiques face aux incertitudes de modèle et de mesure
Un cadre d'apprentissage par renforcement robuste produit des politiques de traitement adaptatif généralisables et fiables malgré les erreurs de mesure des biomarqueurs et les variations de la dynamique de la maladie.
KnowGPO : optimisation de politique groupée par connaissances pour les agents de recherche
Ce framework de reinforcement learning aligne les trajectoires d'agents de recherche sur les connaissances acquises plutôt que sur les observations, et dépasse GRPO, GiGPO et IGPO de 3,8 à 4,2 points.
Entraîner des modèles de raisonnement à générer des idées scientifiques diversifiées
Un modèle de 8B entraîné par apprentissage par renforcement au niveau de l'ensemble d'idées dépasse Claude Opus 4.8 et GPT-6 Astra en utilité créative sur un benchmark sans contamination.
Modéliser et comprendre les poids des politiques de robots humanoïdes par diffusion
Des chercheurs génèrent directement dans l'espace des poids des réseaux de contrôle déployables pour le robot Unitree G1, grâce à un modèle de diffusion latente.
Apprentissage de politiques résiduelles hiérarchiques pour la manipulation mobile réelle avec guidage humain parcimonieux
HiRe-MoMa affine une politique de base figée pour la manipulation mobile : environ 30 minutes d'interaction en ligne sur le robot TIAGo++ suffisent à améliorer les performances.
Co-évolution de l'action et de la prévision pour les agents de langage
Un nouvel entraînement par RL ajoute des cibles d'actions multi-étapes pour exploiter la supervision intermédiaire, sans surcoût à l'inférence, et améliore les performances sur cinq benchmarks d'agents.
Player-1 : apprendre à jouer à partir d'expérience synthétique
Un framework de post-training enseigne le contrôle de jeux vidéo à des agents grâce à seize environnements synthétiques et au reinforcement learning PPO, au-delà des simples démonstrations.
Une tâche, plusieurs interfaces : un entraînement à la cohérence inter-interfaces améliore la robustesse des agents LLM
Des chercheurs proposent CIPR, une régularisation qui impose à un agent LLM un comportement cohérent quand l'interface change, sans dégrader ses performances sur l'interface d'origine.
PrismaCoder : repousser les limites de l'intelligence de code multimodale ouverte via la synthèse de rubriques décomposées
Des chercheurs présentent PrismaForge, un pipeline de données fondé sur des rubriques synthétiques, et PrismaCoder-2M, un vaste jeu de données ouvert pour le code multimodal, ainsi que deux modèles associés.
Tev : passer à l'échelle les environnements agentiques longue durée avec des récompenses de progression denses
Tev-Gym, un jeu de 1 170 environnements vérifiés sur 7 domaines, et la méthode PPRS permettent d'entraîner Tev-27B, qui égale GPT-6 Astra et Claude Opus 5 à Pass@5 sur ALE-CM.
AesCode : génération de code esthétique avec des récompenses cross-modales découplées
AesCode génère des slides, posters et dashboards sous forme de code, guidé par une image de référence, et optimise par reinforcement learning des récompenses vérifiables et visuelles séparées.
Hybrid Reasoning Agents : des agents alternant raisonnement latent et interaction textuelle
HybridAgents navigue dynamiquement entre raisonnement latent et texte au sein d'une même génération, avec un gain de 10,4 % et une réduction de 35,5 à 54,7 % des tokens sur 11 benchmarks.
Deux horloges : pourquoi les gros batchs de rollouts apprennent plus lentement mais s'effondrent à date fixe en RLVR
Un cadre à « deux horloges » explique pourquoi la règle de la racine carrée sur le learning rate ne préserve pas le progrès par échantillon en RLVR, et en tire un calendrier de batch size.
MFG : optimisation moléculaire guidée par feedback multi-tours
Un framework de reinforcement learning entraîne un LLM à optimiser des molécules tour après tour grâce au feedback précédent, avec 81,50 % de succès contre 70,81 % pour le modèle de base.
Vitesses rapides pour le Q-learning hors ligne avec régularisation KL
Des chercheurs prouvent que le Q-learning hors ligne atteint une complexité d'échantillonnage en Õ(1/ε) avec régularisation KL, via deux variantes : KLQ et KLPQ, cette dernière intégrant du pessimisme.
Gestion de bundles et contrôle de flux orientés objectif pour les communications en espace lointain par apprentissage par renforcement
Un framework d'apprentissage par renforcement optimise l'ordonnancement et l'abandon de bundles sur un relais spatial, en privilégiant les données les plus utiles aux objectifs de mission.
Bornes de temps d'atteinte pour le Q-learning asynchrone
Une analyse du dernier itéré du Q-learning asynchrone sur une trajectoire unique établit une borne d'échantillons en H^4/(μ_min ε²) avec un coût d'initialisation additif lié au temps d'atteinte.
Un régime de données équilibré : lever le goulot d'exploration du RL à très grande échelle pour le contrôle de robots
Success Guided Sampling (SGS) concentre l'entraînement RL sur la frontière des capacités de la politique et rend exploitable le scaling jusqu'à plus d'un million d'environnements parallèles.
FAITH : RL filtré pour la sécurité et conscient de la faisabilité, pour systèmes à haute dimension
Un framework model-free sépare sécurité et performance via un filtre d'actions appris, et atteint 99,95 % de sécurité sur un humanoïde à 29 DoF, testé sur un Unitree G1 réel.
Un opérateur de Bellman unifié pour l'apprentissage par renforcement critique en sécurité
Des chercheurs proposent un opérateur de Bellman fusionnant performance et sécurité dans une fonction de valeur conjointe, avec preuve de convergence et quasi-absence de violations au test.
ExpDis : découpler exploration et optimisation dans l'apprentissage par renforcement avec récompenses vérifiables
Des chercheurs proposent un cadre qui sépare la phase d'exploration de celle d'optimisation en RLVR, permettant d'intensifier l'exploration sans dégrader la qualité du modèle final.
Agent Lightning v1.0 : un framework RL agentique léger de 3 500 lignes pour entraîner des agents avec leurs harnais réels
Microsoft Research Asia propose une approche où le même harnais d'agent utilisé en production participe directement à l'apprentissage par renforcement, sans réimplémentation coûteuse.
QF3 : un RL rapide pour politiques de flow avec gradients Q filtrés
Un nouvel algorithme off-policy accélère l'apprentissage par renforcement des politiques de flow, avec transfert zero-shot vers des robots humanoïdes réels.
IdeaAnchor : apprendre aux LLM à transformer la littérature scientifique en idées de recherche
Un nouveau paradigme d'entraînement utilise des spécifications structurées pour apprendre aux modèles à synthétiser des idées de recherche à partir de papiers existants.
Sherpa : apprendre aux LLM à enseigner de manière adaptative
Un framework d'apprentissage par renforcement entraîne des LLM à ajuster leur pédagogie selon le profil de l'élève simulé, avec des gains mesurables.
VeriFine : une vérification évolutive pour l'auto-amélioration en raisonnement incarné
Un framework où politique, curriculum et juge co-évoluent pour permettre l'auto-amélioration continue d'agents en robotique et conduite autonome.
Apprentissage par renforcement à ensembles d'actions conformes pour la recommandation séquentielle
Une méthode ajuste dynamiquement la taille des listes de recommandations via un élagage calibré, avec garanties théoriques sur la perte de valeur.
Les modèles de base peuvent raisonner en s'appuyant sur des indices issus des données d'entraînement
Un simple token de départ comme « Okay » ou « Alright » peut faire bondir les performances de raisonnement d'un modèle de base, sans RL.
MemPilot : orchestration à la demande de la mémoire multimodale pour agents LLM
Un nouveau framework par apprentissage par renforcement ajuste dynamiquement coût, latence et performance de la mémoire des agents LLM.
CLIFT : auto-vérification conforme pour l'entraînement et le test-time scaling des agents web
Une méthode d'auto-vérification certifiée permet aux agents web open source d'améliorer leurs performances sans juge externe coûteux.
EyeRobot 2.0 : regard actif pour une manipulation précise sans caméras au poignet
Un robot bimanuel fixe des points 3D comme un œil humain pour manipuler finement sans caméra de poignet, via RL hiérarchique.
Planning to Learn : repenser le gradient de politique via un horizon d'apprentissage
Un nouveau papier explique pourquoi le gradient de politique exact perd face à l'entropie croisée, et propose une « horizon loss » qui comble l'écart.
FERPO : une optimisation de politique par entropie régularisée sans gradient d'action
Un nouvel algorithme de RL en ligne améliore les politiques via un critique sans différencier celui-ci par rapport aux actions, pour des mises à jour plus fiables.
IDiom : génération de régions protéiques intrinsèquement désordonnées via des autoencodeurs épars renforcés
Un modèle de langage protéique entraîné sur 54 millions d'IDR, combiné à une méthode RL-SAE, permet de concevoir des séquences désordonnées fonctionnelles de façon contrôlable.
Clef : des modèles de décision en open-weight et une nouvelle plateforme de fine-tuning par RL
Cloudflare dévoile Clef, une famille de modèles de décision à poids ouverts, accompagnée d'une plateforme de fine-tuning par renforcement.
AdviSD : apprendre à conseiller les LLM frontières via self-distillation multi-tours ciblée
Une méthode entraîne un petit modèle « conseiller » à guider des LLM figés plus puissants, avec des gains mesurés sur BFCL-v3 et EnvScaler.