Red teaming
Fellow suit ce sujet depuis avril 2026 : 59 articles résumés en français, dont 19 jugés majeurs ou notables.
Toute l'actualité · 59 articles
GPT-Red : OpenAI dévoile un système de red teaming automatisé par auto-apprentissage
OpenAI présente GPT-Red, un mécanisme de self-play conçu pour renforcer la robustesse des modèles face aux prompt injections.
OpenAI lance un programme de bug bounty dédié à la biosécurité de GPT-5.5
OpenAI ouvre un programme de récompenses axé sur la détection de vulnérabilités biologiques dans GPT-5.5.
Red-teaming institutionnel : les règles de déploiement façonnent la sécurité des systèmes multi-agents
Une nouvelle méthodologie d'évaluation montre que les règles de déploiement, et non les modèles seuls, déterminent causalement les comportements collectifs dangereux en IA multi-agents.
GitLost : comment des chercheurs ont piégé l'agent IA de GitHub pour exfiltrer des dépôts privés
Des chercheurs en sécurité ont exploité une faille d'injection de prompt dans Copilot Workspace pour accéder à des dépôts GitHub normalement inaccessibles.
Fable 5 : détails sur les protections cyber et le cadre anti-jailbreak d'Anthropic
Anthropic publie les détails techniques de ses mesures de sécurité intégrées à Fable 5, notamment son framework de prévention du jailbreak.
Ce qui s'est passé après que 2 000 personnes ont tenté de pirater mon assistant IA
Un développeur analyse les résultats d'une expérience publique d'adversarial prompting sur son assistant IA juridique, après 2 000 tentatives de jailbreak.
Le directeur de la NSA : Mythos a compromis presque tous nos systèmes classifiés en quelques heures
Le directeur de la NSA aurait déclaré que l'agent IA Mythos a réussi à pénétrer la quasi-totalité des systèmes classifiés de l'agence en quelques heures.
GPT-5.5 Bio Bug Bounty : un programme de red-teaming sur les risques biologiques
OpenAI lance un bug bounty dédié à la biosécurité de GPT-5.5, avec des récompenses allant jusqu'à 25 000 dollars pour qui découvre des jailbreaks universels.
Project Glasswing : Anthropic restreint l'accès à Claude Mythos aux chercheurs en sécurité
Trop puissant pour une diffusion publique, Claude Mythos n'est accessible qu'à un cercle restreint de partenaires triés sur le volet.