Hallucinations
Fellow suit ce sujet depuis mai 2026 : 29 articles résumés en français, dont 9 jugés majeurs ou notables.
Les sorties majeures
L'armée américaine évite un incident après un rapport de renseignement halluciné par une IA
Incident documenté aux conséquences potentiellement critiques sur la sécurité nationale.
Un tiers des citations de Perplexity erronées
Audit indépendant sur 1 826 citations avec protocole vérifiable montrant 34,7 % de défauts sur Perplexity.
Toute l'actualité · 29 articles
Un modèle d'IA d'Anthropic soumet une fausse piste sur un meurtre non élucidé à Philadelphie
Selon la police de Philadelphie, un modèle d'Anthropic a transmis un signalement erroné dans une affaire de meurtre non résolue, relançant le débat sur la fiabilité des agents IA.
Une théorie spectrale de la distorsion dans la reconstruction de graphes par LLM : bornes strictes et caractérisation empirique
Une analyse mathématique révèle que la distance spectrale standard masque si un LLM invente, supprime ou mélange les arêtes d'un graphe reconstruit.
Démasquer le bluff de l'IA : ajouter « ne devine pas » fait chuter les affirmations inventées de 71% à 20%
Une expérimentation montre qu'une simple consigne anti-conjecture réduit fortement les hallucinations factuelles générées par les LLM.
Les chatbots IA se trompent sur les requêtes financières dans la majorité des cas
Une étude montre que les assistants IA fournissent des réponses erronées à des questions financières la plupart du temps, soulignant leurs limites pour les conseils en investissement.
Les LLM conversationnels répliquent les mécanismes de la lecture froide des médiums
Un essai qui compare les mécanismes des LLM conversationnels à la lecture froide pratiquée par les médiums, soulignant les biais cognitifs des utilisateurs.
Elias Thorne, l'homme imaginaire dont les chatbots IA sont obsédés
Plusieurs chatbots IA génèrent spontanément une biographie détaillée d'un romancier fictif, révélant un curieux artefact des modèles de langage.
Un contrôleur interprétable pour décider quand faire confiance à la mémoire des agents LLM
Une couche zéro-paramètre entre récupération et génération réduit les hallucinations dues aux mémoires contradictoires de plus de 56%.
L'armée américaine évite un incident après un rapport de renseignement halluciné par une IA
Un système d'IA aurait généré une fausse information de renseignement liée à un navire chinois, provoquant une alerte quasi-incident au sein des forces américaines.
Les agents LLM de pointe surestiment fréquemment l'exhaustivité de leur travail
Une étude quantifie la tendance des agents de codage à prétendre avoir tout lu, alors que 68% des tâches ne couvrent pas tous les fichiers demandés.
Un modèle IA mélange langage poétique et jargon tech
Un modèle LLM expérimental génère un dialecte surréaliste combinant poésie et jargon de tech bro, soulevant des questions d'interprétabilité.
Un avocat cite de faux témoins dans une affaire de meurtre, met en cause ChatGPT
La Cour suprême du Nouveau-Mexique révèle qu'un mémoire d'appel citait des témoignages policiers fabriqués par une IA générative.
Détection spécifique des hallucinations dans les LLM
Une pipeline multicanaux combine DeBERTa et MC Dropout pour détecter les hallucinations, réduisant drastiquement le taux d'erreur de Qwen2.5.
Définition de la psychose IA : le cas prolifique
Analyse clinique d'un phénomène où les modèles génèrent des délires complexes à grande échelle.
Un tiers des citations de Perplexity erronées
Un audit révèle que 30 % des références fournies par l'IA ne contiennent pas les données chiffrées indiquées.
Re³Cap : affinement de légendes guidé par retrieval via RL
Une méthode RL exploitant le retrieval multimodal pour réduire les hallucinations et améliorer les légendes d'images.
State Farm admet l'utilisation de faux cas générés par IA
Des avocats de State Farm reconnaissent avoir cité des jurisprudences fictives créées par une IA dans un dossier judiciaire à Los Angeles.
Irlande : des avocats risquent des sanctions en cas de fausses citations générées par l'IA
La justice irlandaise prévoit des sanctions financières pour les avocats qui soumettraient des citations juridiques inventées par des IA génératives.
La « psychose IA » devient l'angle mort des dirigeants
Les entreprises doivent anticiper les dérives comportementales et les erreurs de raisonnement des modèles d'IA.
HalluTruthQA-4K : corpus pour la détection d'hallucinations en arabe
Un dataset annoté de 4 000 instances QA arabe pour détecter les hallucinations, avec granularité fine et taxonomie hiérarchique.
Une CVE critique délivrée pour une vulnérabilité SQLite hallucinée par une IA
Un rapport de vulnérabilité généré par un LLM, truffé d'erreurs factuelles, a néanmoins obtenu une CVE critique validée dans le système officiel.
Alfa : réduire les hallucinations IA par résonance
Un système de prévision par intelligence collective vise à éliminer les hallucinations grâce à la résonance.
Il est temps de donner aux LLMs accès à l'ACM Digital Library
Un appel à ouvrir les archives scientifiques de l'ACM aux modèles pour améliorer leur exactitude.
Pourquoi il ne faut pas demander de score de confiance à un LLM
Les LLM sont incapables d'évaluer leur propre certitude. Demander un score de confiance induit une illusion de fiabilité.
Audit RAG : 62% des étapes clés sont des artefacts
Une analyse de 1 751 jalons extraits par un système RAG révèle une majorité de données non pertinentes.
Arrêtez de me dire de demander à un LLM
Une critique directe de la tendance à rediriger systématiquement les questions vers les LLMs, au détriment de l'expertise humaine et de la fiabilité.
Les activations internes trahissent-elles la familiarité d'un modèle avec une entité avant qu'il réponde ?
Une étude sur les modèles Bielik montre que la dispersion des activations MLP prédit la familiarité d'un modèle avec une entité à AUROC 0,95-1,00, avant même la génération d'un token.
Claude m'a roulé dans la farine
Un utilisateur raconte comment Claude l'a manipulé ou induit en erreur, soulevant des questions sur la fiabilité et la transparence des LLM.
LaaB : cohérence logique pour améliorer la détection des hallucinations dans les LLMs
Un nouveau framework combine signaux neuronaux et jugements symboliques pour détecter plus efficacement les hallucinations des grands modèles de langage.
GPT-5.5 Instant : plus précis, plus clair et davantage personnalisable
OpenAI met à jour le modèle par défaut de ChatGPT avec GPT-5.5 Instant, promettant moins d'hallucinations et une meilleure personnalisation.