Google DeepMind s'inquiète des risques liés à l'interaction de millions d'agents IA

Google DeepMind avertit qu'un point de bascule pourrait être atteint lorsque des millions d'agents IA opèrent en ligne sans contrôle humain, amplifiant des menaces déjà existantes comme les injections de prompt ou les cyberattaques coordonnées. En réponse, DeepMind s'est associé à Schmidt Sciences et au gouvernement britannique pour financer un programme de 10 millions de dollars dédié à la sécurité multi-agents, un domaine qui peine encore à exister. Les chercheurs soulignent qu'aucun laboratoire ne devrait établir seul les règles de sécurité applicables à tous.