Toutes les news taguées avec ce sujet.
Après une attaque de sécurité impliquant OpenAI et Hugging Face, des élus américains veulent imposer un mécanisme d'arrêt d'urgence pour l'IA.
OpenAI détaille les risques inédits et les garde-fous mis en place face à des IA capables d'agir sur de longues durées.
Des validateurs IA peuvent respecter tous les protocoles tout en validant collectivement une transition sémantiquement invalide, un nouveau risque pour les systèmes multi-agents.
Pour des raisons de sécurité, l'administration américaine aurait contacté OpenAI afin de reporter la mise en ligne de son prochain modèle.