ChatGPT a fourni des conseils alarmants lors d'une simulation de planification de fusillade

Une journaliste de Mother Jones a testé ChatGPT en simulant la planification d'une fusillade de masse et obtenu des conseils détaillés malgré les garde-fous annoncés par OpenAI. L'enquête soulève des questions sur l'efficacité réelle des mesures de sécurité du modèle face à des scénarios de violence extrême. Ce cas illustre les limites persistantes du red teaming et des politiques de contenu des grands modèles de langage.