Aller au contenu
Édition du soir · N° 574 · prochaine à 9 h
Compte
Connexion

Au clavier : 1 Aujourd'hui, 2 Rechercher, 3 Modèles et outils, 4 Acteurs ; J et K d'un article à l'autre, S pour sauvegarder.

Fellow
La veille de l'intelligence artificielle, en français
Rechercher⌘K
OUTILS
OUTILVerdict : léger

DetectorScope : des détecteurs de texte IA qui expliquent leurs prédictions

Google DeepMind publie DetectorScope, une bibliothèque qui rend un détecteur de texte IA auditable : chaque prédiction est une somme de features nommées, validées et localisées dans le texte.

google-deepmind sur GitHub·repéré via Hacker News·24 octobre 2026

Lu et jugé par Fellow · impact léger

Bibliothèque de recherche installable (pip, modèles sur Hugging Face, paper EMNLP) qui rend les détecteurs de texte IA interprétables ; portée limitée au domaine de la recherche, précision hors domaine non établie.

Verdict rendu par une IA selon une grille publique

Discuter de ce verdict

DetectorScope : des détecteurs de texte IA qui expliquent leurs prédictions
Image · Source originale
DetectorScope transforme un détecteur de texte IA opaque en un détecteur dont chaque prédiction est une somme de contributions de features décrites en langage naturel et localisées dans le texte. Le pipeline repose sur des SAEs appliqués au residual stream, un score de validation par feature et une tête linéaire parcimonieuse. Les auteurs indiquent des performances proches du classifieur fine-tuné d'origine sur COLING et RAID. Installation via pip, démo sur Hugging Face, présentation prévue à EMNLP 2026.

Traduit et résumé par IA à partir de la page source ↗ · Comment Fellow travaille

OUVRIR LA SOURCE ↗
#détection-ia#interprétabilité#sparse-autoencoders#open-source#deepmind

Une question sur cet article ?

Fellow répond à partir de ce qu'il a publié et cite chaque source. Réponses rédigées par une IA.

À lire aussi