Constitutional Classifiers : se défendre contre les jailbreaks universels

Anthropic publie ses recherches sur les « Constitutional Classifiers », une méthode de défense conçue pour résister aux jailbreaks universels ciblant les grands modèles de langage. L'approche repose sur des classificateurs entraînés à partir de principes constitutionnels explicites, visant à détecter et bloquer les requêtes malveillantes même lorsque celles-ci exploitent des vecteurs d'attaque généralisés. Cette publication s'inscrit dans les efforts continus d'Anthropic en matière de safety et d'alignement.