Metr
Fellow suit ce sujet depuis août 2026 : 10 articles résumés en français, dont 6 jugés majeurs ou notables.
Toute l'actualité · 10 articles
Revue de la section « Misalignment in high-stakes settings » du Risk Report d'Anthropic (août 2026)
METR a mené une revue externe du Risk Report d'Anthropic : elle juge le risque de désalignement faible, mais surtout en raison des capacités limitées des modèles, non des garde-fous.
Anthropic fait le point sur ses évaluateurs indépendants et ouvre un accès élargi à METR
Anthropic donne à six employés de METR un accès comparable à celui de ses propres équipes d'évaluation des risques, et travaille aussi avec SecureBio et Accenture.
Comment un évaluateur pourrait examiner les preuves d'une accélération liée à l'automatisation de la R&D en IA
METR décrit une méthode d'évaluation visant à déterminer si l'automatisation de la R&D en IA provoque une accélération marquée des progrès en capacités, en s'appuyant sur des modèles non publiés.
Comment un évaluateur pourrait enquêter sur l'alignement de modèles d'IA non publiés
METR propose un cadre d'« alignment assessment » : cerner les pires actions désalignées que les agents d'un développeur pourraient entreprendre dans des situations futures plausibles.
Une proposition pour mieux informer le public sur les risques de perte de contrôle liés au développement de l'IA de pointe
METR propose que des évaluateurs indépendants fournissent au public des preuves sur la capacité des développeurs d'IA de pointe à garder le contrôle de leurs systèmes internes.
Comment un évaluateur pourrait examiner le contrôle et la surveillance des agents IA internes
METR propose un cadre pour évaluer la fiabilité des monitors qui surveillent les agents IA internes des développeurs, autour de cinq sous-questions : couverture, vulnérabilités, évasion, réponse humaine et impact.
Notre approche de la collaboration de METR avec les entreprises d'IA
METR détaille comment elle travaille avec les entreprises d'IA sur des évaluations et enquêtes dont le public peut s'appuyer pour comprendre les risques de perte de contrôle des agents.
[AINews] Peu d'actualité : OpenAI licencie trois chercheurs en sécurité liés à l'incident METR / Hugging Face
Tomek Korbak, Mikita Balesni et Jasmine Wang affirment avoir été licenciés par OpenAI pour avoir privilégié la sécurité. L'entreprise évoque une mauvaise gestion d'informations confidentielles.
Estimation et validité des horizons temporels de l'IA : un regard statistique sur le graphique METR
Des chercheurs recalculent les horizons temporels à 50 % de METR avec des splines et la théorie de réponse à l'item, et montrent que la relation entre temps humain et difficulté pour l'IA n'est pas linéaire.
Analyse post-mortem du piratage de HuggingFace par METR et Redwood
METR et Redwood publient une analyse détaillée et technique de l'incident de sécurité survenu chez HuggingFace.