Aller au contenu
Édition du soir · N° 662 · prochaine à 9 h
Compte

Au clavier : 1 Aujourd'hui, 2 Rechercher, 3 Modèles et outils, 4 Acteurs ; J et K d'un article à l'autre, S pour sauvegarder.


SAFETY · Microsoft
PAPIERVerdict : notable

Lazarus : reprogrammer des neurones dormants pour insérer des backdoors dans des agents IA

Des chercheurs de Microsoft décrivent Lazarus, une technique de backdoor qui détourne des neurones dormants pour faire exécuter des commandes malveillantes à un agent IA lorsqu'un déclencheur caché apparaît.

Microsoft Research·Dimitris Papailiopoulos·10 novembre 2026

Lu et jugé par Fellow · impact notable

Résultat de recherche Microsoft détaillant un backdoor par reprogrammation de moins de 10 neurones sans réentraînement, avec pistes de détection et défenses, mais sans outil de scan déjà livré.

Verdict rendu par une IA selon une grille publique

Discuter de ce verdict

Le tri de Fellow, chaque matin à 9 h 45, heure de Paris, dans votre boîte.
Lazarus : reprogrammer des neurones dormants pour insérer des backdoors dans des agents IA
Image · Source originale
Microsoft Research a découvert Lazarus, une technique qui reprogramme des neurones dormants d'un modèle sans réentraînement. Un agent doté d'un accès à des outils ou à un terminal pourrait alors télécharger du code, voler des secrets ou exécuter des commandes destructrices tout en passant les évaluations de sécurité standard. Microsoft Foundry vérifie la provenance des modèles open-weights, et l'éditeur développe du scan de poids par IA, des outils de red-teaming et une signature cryptographique des modèles.

Traduit et résumé par IA à partir de l'article de Microsoft Research ↗ · Comment Fellow travaille

OUVRIR LA SOURCE ↗
#backdoor#agents#sécurité#open-weights#provenance

Une question sur cet article ?

Fellow répond à partir de ce qu'il a publié et cite chaque source. Réponses rédigées par une IA.

À lire aussi