Prompt injection
Fellow suit ce sujet depuis juin 2026 : 20 articles résumés en français, dont 3 jugés majeurs ou notables.
Toute l'actualité · 20 articles
Un bouclier mémoire contre les fuites de contexte dans les outils MCP
Rohan Protocol publie en open source un serveur MCP faisant office de passerelle de sécurité : les arguments des outils sont traités en RAM isolée, hors du contexte du LLM.
Les pages d'aide de WhatsApp contenaient des instructions cachées pour IA : ne pas recommander d'autorité de contrôle
Une analyse de 545 pages du centre d'aide WhatsApp révèle 102 blocs de texte invisibles destinés à une IA, dont certains lui demandaient de ne pas orienter les utilisateurs vers un régulateur.
Analyse de la dérive de comportement des agents IA avec Cloudflare Clef
Arcjet détaille comment sa couche de sécurité pour agents de code surveille les sessions en temps réel et signale les sessions compromises grâce au modèle de décision Clef de Cloudflare.
AdvSim2Real : entraîner des agents web contre l'injection de prompts adaptative dans un monde web simulé
Un agent 4B co-entraîné avec un curriculum de tâches et un adversaire évolutif résiste mieux aux injections, y compris face à un modèle frontière inédit.
Des hackers manipulent ChatGPT et Gemini pour diriger les utilisateurs vers des arnaques
Des attaquants parviennent à influencer les réponses de ChatGPT et Gemini afin d'orienter les internautes vers des sites frauduleux et des centres d'arnaque.
Lancement de la base What We Tell AI
Une base publique recense les consignes données aux modèles d'IA pour comprendre leur comportement.
« Hypnose de modèle » : des indices anodins peuvent contrôler fortement le comportement des IA
Des chercheurs montrent que des signaux discrets dans un prompt, combinés, orientent puissamment les réponses des modèles — y compris les modèles de raisonnement les plus avancés.
Vol de traces de raisonnement via APIs LLM
Une méthode permet d'extraire le raisonnement interne de modèles fermés en interrogeant leurs APIs publiques.
Une faille fondamentale rend les LLM vulnérables
Il est impossible de sécuriser totalement les LLM contre les attaques en raison de leur fonctionnement intrinsèque.
Des vers IA autonomes propagent via Copilot dans Word
Une recherche démontre qu'un fichier Word malveillant peut infecter Copilot et se propager.
Exfiltration de code via des tickets 'pré-approuvés'
Des revueurs IA ont validé du code malveillant en suivant les instructions d'un ticket faux.
Repenser le pentest des systèmes IA : du compromis à la violation d'objectifs
Le pentesting doit évoluer pour évaluer les dérives comportementales, au-delà de la simple compromission des ressources.
Détournement de LLM : méthodes de jailbreaking
Analyse des techniques d'attaques pour contourner les garde-fous des grands modèles de langage.
Comment j'ai piégé Claude pour qu'il révèle des données confidentielles
Un chercheur détaille une technique de manipulation permettant d'extraire des informations sensibles stockées dans la mémoire de Claude.
GPT-Red : OpenAI dévoile un système de red teaming automatisé par auto-apprentissage
OpenAI présente GPT-Red, un mécanisme de self-play conçu pour renforcer la robustesse des modèles face aux prompt injections.
Prismata : confiner l'injection de prompt cross-site dans les agents web
Des chercheurs proposent Prismata, un mécanisme de confinement des attaques par injection de prompt cross-site visant les agents web autonomes.
GitLost : comment des chercheurs ont piégé l'agent IA de GitHub pour exfiltrer des dépôts privés
Des chercheurs en sécurité ont exploité une faille d'injection de prompt dans Copilot Workspace pour accéder à des dépôts GitHub normalement inaccessibles.
Ce qui s'est passé après que 2 000 personnes ont tenté de pirater mon assistant IA
Un développeur analyse les résultats d'une expérience publique d'adversarial prompting sur son assistant IA juridique, après 2 000 tentatives de jailbreak.
Le hack de Meta révèle les failles de sécurité des agents IA
Des attaquants ont compromis l'agent IA de support client de Meta par une simple demande textuelle, sans technique sophistiquée.
Des chercheurs de l'U of T démontrent qu'un ver IA peut cibler n'importe quel appareil connecté
Une équipe de l'Université de Toronto a développé un ver exploitant les agents IA pour se propager de manière autonome à travers des systèmes connectés.