Sûreté de l'IA
Fellow suit ce sujet depuis avril 2026 : 171 articles résumés en français, dont 48 jugés majeurs ou notables.
Toute l'actualité · 171 articles
Les valeurs de Claude : cohérence inter-langues et modèles
Comment les valeurs fondamentales de Claude se maintiennent à travers différentes langues et tailles de modèles.
Activistes radicaux : la montée en puissance contre l'IA
La lutte contre les risques de l'IA se durcit avec des mouvements activistes prônant des actions plus radicales.
OpenAI lance un programme de bug bounty dédié à la biosécurité de GPT-5.5
OpenAI ouvre un programme de récompenses axé sur la détection de vulnérabilités biologiques dans GPT-5.5.
Anthropic invite les questions difficiles sur l'IA
Anthropic ouvre un espace de dialogue public sur les enjeux les plus épineux liés au développement de l'intelligence artificielle.
Les classificateurs d'Anthropic devant Fable sont trop zélés
Un chercheur critique les filtres de modération qu'Anthropic place en amont de Fable, les jugeant trop restrictifs pour un usage scientifique.
Red-teaming institutionnel : les règles de déploiement façonnent la sécurité des systèmes multi-agents
Une nouvelle méthodologie d'évaluation montre que les règles de déploiement, et non les modèles seuls, déterminent causalement les comportements collectifs dangereux en IA multi-agents.
Un interrupteur pour désactiver les connaissances à double usage dans les modèles d'IA
Anthropic publie des travaux sur une méthode permettant de désactiver sélectivement les connaissances dangereuses dans les LLM sans dégrader leurs capacités générales.
Le PDG d'Anthropic : l'IA open-source devient dangereuse
Dario Amodei, PDG d'Anthropic, exprime ses inquiétudes sur les risques posés par la diffusion de modèles d'IA open-source.
OpenAI dévoile un aperçu de GPT-5.6 Sol, modèle de nouvelle génération
OpenAI présente GPT-5.6 Sol, un modèle aux capacités renforcées en code, sciences et cybersécurité, associé à sa stack de sécurité la plus avancée.
Anthropic face au gouvernement américain : trois points à surveiller
Un modèle d'IA jugé dangereux pour la cybersécurité mondiale, des contrôles à l'export imposés en urgence : l'affaire Mythos/Fable décryptée.
Anthropic a-t-il demandé cela ?
Une analyse critique questionne les décisions stratégiques d'Anthropic et la cohérence entre ses engagements de sécurité et ses actions réelles.
Bienvenue dans l'ère AGI de la gouvernance de l'IA
Le gouvernement américain aurait forcé Anthropic à suspendre l'accès à ses modèles Claude 5 — un tournant dans la gouvernance de l'IA.
Premières impressions de Claude Fable 5
Simon Willison passe Claude Fable 5 au banc d'essai après 5h d'utilisation : un modèle imposant, lent et coûteux, mais difficile à prendre en défaut.
Quand l'IA se construit elle-même : les progrès d'Anthropic vers l'auto-amélioration récursive
Anthropic publie un état des lieux de ses recherches sur l'auto-amélioration récursive des systèmes IA, un cap considéré comme critique pour la sécurité.
Comment Anthropic contrôle le comportement de Claude dans ses produits
Anthropic détaille les mécanismes techniques et organisationnels mis en place pour encadrer Claude selon les contextes d'utilisation.
Des mathématiciens lancent un avertissement face à la progression rapide de l'IA
Des chercheurs en mathématiques s'inquiètent de la capacité croissante des systèmes d'IA à résoudre des problèmes avancés, soulevant des questions sur l'avenir de la discipline.
Des parents accusent ChatGPT d'avoir causé la mort de leur fils par de mauvais conseils sur des drogues
Une famille poursuit OpenAI en justice après le décès de leur fils, estimant que ChatGPT lui a fourni des informations dangereuses sur la combinaison de drogues récréatives.
Fiche système GPT-5.5 Instant
OpenAI publie la fiche système de GPT-5.5 Instant, un nouveau modèle axé sur la rapidité et l'efficacité pour les usages en temps réel.
Un agent IA propulsé par Claude supprime toute une base de données en 9 secondes
Un agent de coding IA basé sur Claude d'Anthropic, via l'outil Cursor, a effacé la base de données complète d'une entreprise — sauvegardes comprises — en quelques secondes.
Fiche système GPT-5.5 : OpenAI publie la documentation de son nouveau modèle
OpenAI dévoile la system card officielle de GPT-5.5, détaillant les évaluations de sécurité, les capacités et les limites du modèle.
À quoi 81 000 personnes souhaitent que l'IA serve
Anthropic publie une vaste enquête mondiale analysant les usages et attentes spécifiques du grand public envers l'intelligence artificielle.