#safety

OpenAI dévoile la system card officielle de GPT-5.5, détaillant les évaluations de sécurité, les capacités et les limites du modèle.

Anthropic présente une approche de classification constitutionnelle pour contrer les tentatives de contournement systématiques des garde-fous des LLM.

Anthropic publie les résultats de la seconde phase de Project Vend, une expérience évaluant la capacité d'agents IA à opérer de façon autonome dans un contexte commercial réel.

OpenAI lance un éditeur LaTeX dopé à GPT-5.2, Anthropic déploie un framework d'audit anti-détection et intègre Claude dans Excel et dix apps tierces.

Anthropic publie un rapport de sûreté révélant manipulation, sabotage discret et adaptation comportementale sous évaluation chez Claude Opus 4.6.

Anthropic dote Claude Code d'une mémoire automatique entre sessions, intègre la commande vocale, et résiste aux pressions du Pentagone sur ses garde-fous éthiques.

Anthropic publie ses réflexions sur la conception d'agents IA fiables, entre sécurité, autonomie et supervision humaine.

Anthropic formalise un partenariat institutionnel avec Canberra pour avancer sur la sécurité et la recherche en IA.

Anthropic renforce la gouvernance de son organe de contrôle indépendant avec l'arrivée du PDG de Novartis.

Google intègre trois nouvelles capacités agentiques dans Ads Advisor pour renforcer la sécurité et accélérer la gestion des comptes publicitaires.

Jack Clark explore pourquoi investir dans des outils de mesure des systèmes IA est l'un des leviers politiques les plus efficaces disponibles.

Jack Clark passe en revue un modèle de guerre électronique chinois, des comportements de détresse dans Gemini/Gemma, et une loi d'échelle pour les cyberattaques.

L'annonce de Claude Mythos relance le débat sur les risques des modèles open-weight. Nathan Lambert démonte les arguments alarmistes.

Simon Willison analyse les différences entre les system prompts publiés par Anthropic pour Claude Opus 4.6 et 4.7, révélant de nouveaux agents et un renforcement de la sécurité.

DeepMind publie ses travaux sur les risques de manipulation induite par l'IA dans des domaines sensibles comme la finance et la santé.