Anthropic publie un framework open-source pour la découverte de vulnérabilités par IA

Anthropic a publié un framework de référence open-source, « Defending Code Reference Harness », destiné à mesurer la capacité des modèles d'IA à identifier des vulnérabilités dans du code. L'outil propose un environnement standardisé pour benchmarker les LLM sur des tâches de sécurité offensive et défensive. Cette initiative s'inscrit dans l'effort plus large de la communauté pour évaluer rigoureusement les risques et les bénéfices des agents IA appliqués à la cybersécurité.