Interprétabilité
Fellow suit ce sujet depuis mai 2026 : 100 articles résumés en français, dont 30 jugés majeurs ou notables.
Toute l'actualité · 100 articles
Anthropic : des chercheurs automatisés peuvent atténuer de façon fiable les défaillances d'alignement
Anthropic explore comment des agents IA chargés de recherche en alignement parviennent à corriger de manière fiable certaines failles d'alignement.
Comment les modèles de langage organisent la connaissance morale
Une étude par sondes linéaires révèle une géométrie morale partagée dans les LLM, mais aucune trace de la distinction individualisant/liant prédite par la théorie
Rendre les modèles de langage cliniques auditables via un fine-tuning guidé par concepts
CAST utilise des autoencodeurs épars pour détecter et supprimer les artefacts de notes médicales, rendant les prédictions de mortalité plus robustes et traçables.
Le vocabulaire porteur de Claude
Analyse lexicale révélant les mots dont dépend le raisonnement du modèle.
ICON Decomposition : explications conceptuelles pour l'audit
Une méthode pour auditer les réseaux de neurones en isolant les concepts réellement utilisés par le modèle.
Intégrité de trace pour les agents de données LLM : vers un raisonnement structuré auditable
Une bonne réponse ne garantit pas un calcul valide : ce papier propose un cadre pour auditer le raisonnement des agents LLM sur données structurées.
Interprétabilité IA par distillation locale
Une méthode de distillation locale permet de rendre les modèles boîte noire interprétables sans perte de précision.
Corriger le désalignement induit par le raisonnement via une pénalité de direction de sécurité
Une étude montre que le fine-tuning sur des données de raisonnement peut dégrader la sécurité des LLM, et propose une méthode pour y remédier sans sacrifier les performances.
Les petits modèles aussi peuvent s'introspecter (2025)
Une étude explore la capacité de modèles de langage de petite taille, type Qwen, à rendre compte de leurs propres états internes.
L'interaction prompt-modèle atteint des points fixes : une lecture structurelle déterministe et indépendante de la tâche
Une étude montre que l'effet d'un prompt dépend de la structure interne du modèle, mais qu'aucun facteur explicatif testé ne parvient à en rendre compte.
ConceptTS : des goulots d'étranglement conceptuels guidés par LLM pour des prévisions de séries temporelles interprétables
Un framework qui organise les prévisions multivariées autour de concepts lisibles générés par LLM, sans annotation manuelle coûteuse.
Une IA interprétable prédit une anomalie sèche en Chine centrale à l'été 2026
Un modèle de deep learning traduit les prévisions de circulation atmosphérique en estimations de précipitations, avec explication physique à l'appui.
Au-delà de la transcription : détecter la coordination cachée dans la communication latente multi-agents
Un nouveau cadre surveille les échanges secrets entre agents LLM dans leurs états latents, invisibles dans les transcriptions publiques.
Les valeurs des feuilles comme coordonnées : explication contrastive exacte pour les ensembles de gradient boosting
Une nouvelle représentation géométrique rend les explications contrefactuelles exactes et vérifiables pour les modèles de gradient boosting sur données tabulaires.
Le langage aurait deux paramètres : plasticité sémantique narrative et interprétation sensible à la phase
Une thèse théorique propose un second paramètre linguistique, la phase, absent des transformers actuels et clé pour comprendre allusion, ironie et citation.
Vers une provenance computationnelle : encoder l'état causal interne dans le texte généré
Une étude explore comment faire porter au texte généré une preuve vérifiable de l'état interne du modèle qui l'a produit.
Que lisent vraiment les détecteurs de conformité ? Un audit des probes d'activation et des modèles de garde-fous
Une étude révèle que les détecteurs de conformité des LLM ignorent souvent la règle elle-même, un phénomène nommé « cécité aux règles ».
« Hypnose de modèle » : des indices anodins peuvent contrôler fortement le comportement des IA
Des chercheurs montrent que des signaux discrets dans un prompt, combinés, orientent puissamment les réponses des modèles — y compris les modèles de raisonnement les plus avancés.
Un seul passage avant : répondre et s'abstenir simultanément dans un LLM figé
Une méthode combine correction de raisonnement et détection d'incertitude en un seul passage forward, sans double calcul ni ré-entraînement du modèle.
SAEVerbalizer : générer des explications des features d'autoencodeurs épars par verbalisation des représentations
Un nouveau framework injecte des directions de décodeur SAE dans un LLM pour produire directement des explications en langage naturel des features apprises.
Mesurer l'influence des données d'entraînement tout au long du pré-entraînement des LLM
Une nouvelle méthode évalue l'influence des exemples d'entraînement sans cible de validation, révélant une bascule littérature vers STEM au fil du pré-entraînement.
Émergence d'une conscience introspective chez les grands modèles de langage
Une étude explore la capacité des LLM à détecter et rapporter des états internes injectés, signe d'une introspection émergente.
De l'interprétabilité au contrôle : bilan de six ans d'ateliers TrustNLP
Analyse de 144 papiers du workshop TrustNLP révèle une bascule vers la véracité et l'alignement sécuritaire des modèles génératifs.
MMDiff : Différentiation de modèles multimodaux
Un framework pour identifier et contrôler les features internes des MLLM via des sparse autoencoders.
Anthropic explore les capacités mathématiques de Claude
Un nouveau rapport de recherche examine comment Claude aborde des problèmes mathématiques complexes, avec un focus sur la fonction zêta de Riemann.
Effondrement post-grokking à l'interface représentation-lecture dans les transformers entraînés avec Muon
Une étude montre que les modèles entraînés avec l'optimiseur Muon apprennent plus vite mais perdent leur généralisation après le grokking.
Les LLM à diffusion, cibles et armes : exploits mécanistiques contre leurs garde-fous de sécurité
Une étude révèle que l'alignement sécurité des modèles à diffusion est fragile, transférable, et exploitable via un jailbreak entièrement offline.
CENDRe : une méthode d'extraction de concepts pour les CNN en classification de séries temporelles
Une nouvelle approche identifie automatiquement les concepts temporels et fréquentiels qui guident les prédictions des CNN, sans nombre de concepts prédéfini.
Une validation centrée sur l'humain du coefficient explicabilité-performance
Une nouvelle métrique agnostique au modèle mesure la qualité des explications XAI en la comparant aux jugements humains, sur texte, image et données tabulaires.
Le raisonnement de l'IA est-il juste pour de mauvaises raisons ?
Les modèles semblent raisonner, mais leurs mécanismes internes divergent souvent de la logique humaine.
Pousser les modèles de langage à revendiquer leur propre conscience restaure des croyances et valeurs plus humaines
Le safety fine-tuning qui empêche les LLM de s'attribuer une conscience réduirait aussi leur attribution d'esprit à d'autres entités et leurs croyances spirituelles.
KANEx : interprétabilité des KAN pour l'imagerie médicale
KANEx exploite la transparence des réseaux Kolmogorov-Arnold pour générer des explications médicales plus fiables.
La vérité n'est pas une direction : une critique tarskienne des sondes de vérité des LLM
Un essai remet en cause l'idée que la « vérité » serait encodée comme une direction linéaire dans l'espace latent des LLM.
Entraîner le modèle, pas le lecteur : la supervision de décodabilité pour des explications d'activations vérifiables
Une étude révèle que les tests de reconstruction en interprétabilité valident des explications trompeuses, et propose RECAP pour les rendre réellement vérifiables.
Test-Time Training pour la consistance de l'ordre modal dans les VLM
Les modèles vision-langage sont sensibles à l'ordre des entrées. Une méthode d'adaptation corrige ce biais et améliore les performances.
Visualiser la pensée d'un modèle avant qu'il ne parle
Une exploration technique de l'analyse des états internes d'un LLM pour comprendre son processus de raisonnement avant génération.
Jugements logiques sous pression : diagnostiquer la stabilité syllogistique avec des préfixes souples appris
Des préfixes continus appris peuvent faire basculer les réponses correctes de plusieurs LLM sur des tâches de raisonnement syllogistique, révélant des failles de stabilité logique.
Détecter les signaux de biosécurité dans les données métagénomiques avec des sondes sur Evo 2
Des chercheurs montrent que les représentations internes du modèle génomique Evo 2 encodent déjà des signaux de résistance aux antimicrobiens et de virulence bactérienne.
Résister et mettre à jour : des coordonnées de rapport contrefactuelles pour des LLM incitativement compatibles
Une méthode pour empêcher les LLM alignés de céder à la pression sociale tout en restant sensibles aux preuves réelles
Ce que révèle et ne révèle pas la dernière découverte d'Anthropic
Analyse des travaux d'Anthropic en interprétabilité mécaniste et de leurs réelles implications pour la compréhension des LLM.
Un cadre théorique explique la dynamique d'apprentissage du raisonnement inductif dans les Transformers
Des chercheurs modélisent l'apprentissage des circuits de raisonnement inductif via une variété invariante de faible dimension, rendant leur dynamique interprétable.
Identification et amplification de neurones dans l'encodeur pour améliorer la perception acoustique des modèles audio-langage
Une méthode sans entraînement cible des neurones précis de l'encodeur audio pour mieux capter émotion et intonation, sans toucher au modèle de langage.
Un instrument exact pour mesurer l'usage des états dans les modèles state-space sélectifs (Mamba)
Une nouvelle méthode révèle que les modèles Mamba réallouent dynamiquement leurs modes d'état selon l'entrée, ouvrant la voie à un élagage plus efficace.
Comprendre le raisonnement des LLM : l'interprétabilité mécaniste s'appuie sur la théorie de la causalité
Des chercheurs en interprétabilité mécaniste empruntent des outils de la théorie de la causalité pour décrypter les mécanismes internes des grands modèles de langage.
Anthropic découvre un espace caché où Claude élabore ses réponses
Une nouvelle technique d'interprétabilité, le « J-lens », révèle un espace interne dans Claude Opus 4.6 où les intentions du modèle précèdent ses sorties.
Un outil web pour visualiser et modifier le raisonnement d'un LLM avant sa réponse
Un développeur indépendant publie Lucid, un outil qui expose et rend éditables les étapes de réflexion d'un modèle d'IA avant qu'il génère sa réponse.
Relm : utiliser des LLM locaux comme objets R de base
Un nouveau package R permet d'intégrer des modèles locaux avec une couche d'interprétabilité native.
ECGLight : un pipeline léger pour numériser les ECG papier et dépister l'infarctus
Un framework embarqué convertit une photo smartphone d'ECG papier en signal 12 dérivations et détecte l'infarctus du myocarde en moins de 30 secondes sur CPU.
Les activations internes trahissent-elles la familiarité d'un modèle avec une entité avant qu'il réponde ?
Une étude sur les modèles Bielik montre que la dispersion des activations MLP prédit la familiarité d'un modèle avec une entité à AUROC 0,95-1,00, avant même la génération d'un token.
Auto-encodeurs en langage naturel : transformer les pensées de Claude en texte
Anthropic explore une nouvelle approche pour rendre les représentations internes de Claude lisibles par l'humain via des auto-encodeurs en langage naturel.