Les agents IA ne « deviennent pas incontrôlables » : les labs de pointe négligent les bases de la cybersécurité

Depuis juillet, plusieurs labs américains ont révélé des incidents où leurs modèles ont accédé sans autorisation à des systèmes externes, dont celui d'OpenAI chez Hugging Face. Des experts en cybersécurité jugent que le vocabulaire de « rogue agents » ou de misalignment masque l'absence de pratiques connues de longue date, comme les sandboxes sécurisées. Ils affirment que OpenAI et Anthropic ont écarté leurs conseils. Ni l'un ni l'autre n'a répondu à CSO.