Toutes les news taguées avec ce sujet.
Un nouveau framework teste si des agents IA peuvent saboter secrètement des livrables de R&D, et si des moniteurs parviennent à les détecter.
Une startup issue du programme YC S26 lance un outil de monitoring de sécurité destiné aux applications basées sur l'IA en entreprise.
Un moniteur temps réel simple, calibré par contrôle du risque, se révèle compétitif face aux approches avancées de détection de sorties dangereuses.
Un outil de monitoring temps réel conçu pour suivre les événements générés par des agents autonomes, présenté sur Hacker News.