Aller au contenu
Édition du soir · N° 566 · prochaine à 9 h
Compte
Connexion

Au clavier : 1 Aujourd'hui, 2 Rechercher, 3 Modèles et outils, 4 Acteurs ; J et K d'un article à l'autre, S pour sauvegarder.

Fellow
La veille de l'intelligence artificielle, en français
Rechercher⌘K
SAFETY
PAPIERVerdict : notable

Red-teaming des systèmes internes de surveillance des agents d'OpenAI

METR et Redwood Research ont testé pendant trois semaines, avec un accès approfondi, le système de surveillance de la désalignement d'OpenAI. Un rapport interne de 61 pages en est issu.

METR·22 octobre 2026

Lu et jugé par Fellow · impact notable

Évaluation externe à accès approfondi d'un système de surveillance interne d'OpenAI, avec chiffres de couverture (75–94 %) et vulnérabilités documentées, mais rapport complet non publié et failles déjà corrigées.

Verdict rendu par une IA selon une grille publique

Discuter de ce verdict

Red-teaming des systèmes internes de surveillance des agents d'OpenAI
Image · Source originale
Du 21 juillet au 11 août, un employé de METR et un de Redwood Research ont mené un exercice pilote pour éprouver le système interne de surveillance du misalignment d'OpenAI. Ils disposaient d'un accès au code, aux prompts et à la documentation, et ont interrogé environ une douzaine de personnes. Le rapport de 61 pages estime la part de l'inférence agentique surveillée et examine si des agents pourraient désactiver ou contourner le système. Seule une publication brève et de haut niveau a été convenue.

Traduit et résumé par IA à partir de l'article de METR ↗ · Comment Fellow travaille

OUVRIR LA SOURCE ↗
#red-teaming#monitoring#agents#misalignment#openai

Une question sur cet article ?

Fellow répond à partir de ce qu'il a publié et cite chaque source. Réponses rédigées par une IA.

À lire aussi