Robustesse
Fellow suit ce sujet depuis juillet 2026 : 24 articles résumés en français, dont 6 jugés majeurs ou notables.
Toute l'actualité · 24 articles
BatchBench : évaluer la robustesse de l'IA aux effets de lot et aux décalages de domaine en imagerie biomédicale
Un nouveau leaderboard fondé sur le jeu de données JUMP-CP mesure la robustesse des systèmes d'IA face à des lots expérimentaux et des sources de données jamais vus en imagerie biomédicale.
Apprentissage par renforcement robuste pour les régimes de traitement dynamiques face aux incertitudes de modèle et de mesure
Un cadre d'apprentissage par renforcement robuste produit des politiques de traitement adaptatif généralisables et fiables malgré les erreurs de mesure des biomarqueurs et les variations de la dynamique de la maladie.
Une tâche, plusieurs interfaces : un entraînement à la cohérence inter-interfaces améliore la robustesse des agents LLM
Des chercheurs proposent CIPR, une régularisation qui impose à un agent LLM un comportement cohérent quand l'interface change, sans dégrader ses performances sur l'interface d'origine.
LIBERO-RIG : un benchmark de robustesse au matériel pour les modèles vision-langage-action
Un nouveau benchmark perturbe uniquement le matériel et la configuration du robot : le taux de succès moyen de neuf modèles VLA chute de 0,932 à 0,509 à sévérité maximale.
Identification du meilleur bras dans les bandits à moyennes changeantes : une nouvelle approche robuste aux perturbations adversariales
Des chercheurs proposent ISM, un algorithme qui identifie le meilleur bras avec haute probabilité malgré des décalages adversariaux des récompenses moyennes, là où les méthodes classiques comme Track-and-Stop échouent.
BiasFlow : surveillance géométrique et régularisation du backbone contre les biais spurious
Un nouvel outil diagnostique et une régularisation ciblée améliorent la robustesse des modèles face aux corrélations trompeuses entre attributs.
SCAPO : une variante de GRPO pour réduire la sensibilité des LLM aux détails non pertinents du prompt
Une méthode d'attribution de crédit au niveau des tokens améliore la robustesse du raisonnement des LLM entraînés par RLVR.
JevOut : un contexte anodin suffit à faire basculer les modèles de décision
Une étude montre que de simples ajouts contextuels, pourtant naturels, peuvent renverser des décisions correctes de modèles IA avec une confiance élevée.
SemMSA : une approche sémantique latente pour l'analyse de sentiment multimodale avec données incomplètes
Un nouveau framework combine LLM et alignement spectral pour inférer le sentiment humain malgré des modalités manquantes ou bruitées.
Type-safe ne signifie pas sans erreur : le choix du modèle suit le nom de l'option, pas sa définition
Renommer les options d'un modèle de décision typé inverse massivement ses prédictions. Le modèle s'appuie sur le nom de l'option, ignorant la rubrique qui définit son sens réel.
Une vue unifiée et contrainte de l'apprentissage par renforcement robuste basé sur la régularisation
Des chercheurs proposent un cadre théorique unifiant les méthodes de régularisation contre les perturbations adversariales en RL profond.
ROBORMBENCH : la fragilité des modèles de récompense vision-langage face aux paraphrases
Une simple reformulation de la consigne peut inverser le verdict succès/échec d'un modèle de récompense VLM pour une trajectoire robotique identique.
Waymo tire les leçons IA de 200 millions de miles autonomes parcourus
Waymo publie un bilan technique sur les enseignements en IA accumulés après 200 millions de miles en conduite autonome sans supervision.
Une théorie géométrique pour des audits d'équité robustes
Un cadre mathématique révèle comment de petites perturbations peuvent fausser les audits d'équité algorithmique basés sur le voisinage.
Apprendre à faire confiance sélectivement au contexte via un DPO adapté
Un benchmark et une méthode d'entraînement pour distinguer les modèles qui ignorent aveuglément le contexte de ceux qui savent vraiment quand s'y fier.
Faut-il taper ou parler aux agents LLM ? Étude comparative des perturbations vocales et clavier
Une étude systématique montre que les erreurs de transcription vocale nuisent bien plus aux LLM que les fautes de frappe classiques.
Évaluation empirique des performances hors distribution des modèles fondation tabulaires
Neuf modèles fondation pour données tabulaires testés sur des scénarios de shift de distribution : tous se dégradent, quelle que soit leur architecture.
Co-apprentissage pour gérer l'absence de modalités arbitraires en classification multi-modale
Une nouvelle méthode collaborative permet aux modèles multi-modaux de rester robustes même quand plusieurs sources de données manquent, sans schéma prédéfini.
Des réseaux de neurones 1-Lipschitz conçus pour les variétés de Hadamard
Une nouvelle architecture géométrique étend la robustesse Lipschitz aux espaces courbes, avec applications hyperboliques et matrices SPD.
Ce n'est pas ce que vous dites, c'est comment : évaluer la réponse des LLM aux expressions de croyance
Une étude typologique montre comment la formulation linguistique d'une croyance influence la capacité des LLM à suivre le contexte ou leurs connaissances préalables.
Jugements logiques sous pression : diagnostiquer la stabilité syllogistique avec des préfixes souples appris
Des préfixes continus appris peuvent faire basculer les réponses correctes de plusieurs LLM sur des tâches de raisonnement syllogistique, révélant des failles de stabilité logique.
Gagner par le silence : quand l'omission fait gagner des points à un plan évalué par un LLM
Une étude formalise une faille des évaluateurs de plans : supprimer des étapes gênantes peut améliorer artificiellement leur score, et propose un mécanisme de blocage.
L'illusion de robustesse : la précision globale masque des retournements de prédiction
Un contexte non pertinent, même du charabia, peut faire basculer les réponses de LLM sur certains exemples sans que la précision globale ne bouge.
PeTeR : robustification post-entraînement des circuits probabilistes
Une méthode sans données pour renforcer des circuits probabilistes pré-entraînés face aux perturbations et aux changements de distribution.