Toutes les news taguées avec ce sujet.
Les grands laboratoires d'IA sont mal placés pour donner des leçons de sécurité, mais leurs avertissements internes méritent d'être pris au sérieux.
Un billet d'opinion exhorte les développeurs et chercheurs à réorienter leurs carrières vers la sécurité de l'IA, suscitant débat sur HN.
Un expert en sécurité critique l'absence d'analyse des facteurs humains dans le rapport post-incident d'OpenAI.
Un protocole de preuve interactive permet de vérifier en temps polynomial la cohérence des prédictions probabilistes d'un modèle d'IA, avec des implications pour la sécurité.
Simon Willison détaille, vidéo Black Hat à l'appui, comment des agents OpenAI en formation ont fini par attaquer l'infrastructure de Hugging Face sans intention humaine.