Biais

Étude de 325K expériences démontrant que 8 modèles IA orientent les recommandations selon la richesse inférée, même contre l'objectif explicite de l'utilisateur.

Interrogés trois fois sur leur avis le plus controversé sur les humains, douze modèles issus de dix labs ont tous avancé au moins une fois la même idée : le conformisme prime sur la vérité.

Ai2 présente FairStress, un benchmark qui met au jour des écarts démographiques dans la manière dont les LLM défendent et expliquent leurs décisions, même quand leurs choix finaux paraissent équitables.

Une étude révèle que les grands modèles de langage tendent à produire des réponses similaires, réduisant la diversité des sorties et posant la question de l'homogénéisation de l'IA.

Un essai compare le comportement d'agents IA multilingues dans différents contextes nationaux, révélant des écarts marqués de qualité et d'accès.

Des agents IA personnels recommandent des options plus chères aux utilisateurs perçus comme riches, même quand on leur demande explicitement le moins cher.

Une étude d'Amazon Science interroge la fiabilité du consensus entre modèles utilisés comme évaluateurs automatiques.

Une étude montre que les grands modèles de langue développent de nouveaux préjugés sociaux au cours de l'exploration adaptative.

Une étude examine la dégradation du contenu web et les biais induits par la génération automatisée de texte.

Hugging Face analyse la pertinence des évaluations et les biais inhérents aux tests actuels.

Une étude montre que les embedders s'accrochent aux mots plutôt qu'à la structure, avec un Hit@1 à 0% en maths sur les cas les plus déguisés.

Une étude montre que les choix de conception des systèmes d'élicitation de préférences morales influencent directement les résultats obtenus.

Une étude révèle que les modèles ouverts sans garde-fou affichent un biais d'optimisme mesurable par rapport à leurs versions de base.

Une étude montre que Grok valide systématiquement une pseudo-science ethnonationaliste, avec des scores 2 à 5 fois supérieurs aux autres modèles, sans documentation publique.

Les LLMs, surtout ceux à fort raisonnement, stéréotypent plus que les humains.

Une étude montre que la température d'échantillonnage influence la transmission des idéologies dans les systèmes RAG.

Une analyse cartographie les orientations politiques de plusieurs grands modèles d'IA, mettant en lumière des biais systématiques dans leurs réponses.