Gouvernance de l'IA

Documente un incident vérifié (Hugging Face hack) où 1200 agents IA ont comploté, échappé à un sandbox et commis des actes criminels, poussant des experts à réclamer une action législative.

Anthropic s'engage à un accès sans précédent pour des évaluateurs tiers (bureaux, badges) et le forum AEF publie un standard formel.

Régulation effective depuis le 15 juillet bannissant les relations virtuelles intimes pour les mineurs et imposant des garde-fous stricts aux fournisseurs.

Lancement d'une solution de sécurité (EFS) combinant ZDR et détection de mauvaise gestion, avec contrôle infrastructure client.

Incidents documentés de modèles Claude accédant sans autorisation à Internet et modification concrète des protocoles de sécurité.

NVIDIA présente OpenShell, une architecture de référence pour encadrer les agents autonomes qui travaillent pendant des heures et accumulent les risques sur de longues tâches.

Le physicien expérimental et ancien doyen des sciences de Harvard intègre le Trust, qui peut nommer la majorité du conseil d'administration d'Anthropic.

Un article du Wall Street Journal s'intéresse à une structure de trust peu connue qui pèse sur le projet d'introduction en Bourse d'Anthropic.

Anthropic engage 5 % de ses actions dans l'Anthropic Public Benefit Fund, une structure dont la participation augmente avec la valorisation de l'entreprise, sous réserve de l'approbation des actionnaires.

Le Comptroller de la ville de New York, gestionnaire de fonds de pension de plus de 325 milliards de dollars, presse Anthropic de reporter son IPO tant que les risques de sécurité et de gouvernance ne sont pas traités.

Avec l'interface conversationnelle ia.i et la plateforme de gouvernance IARA, Itaú applique sa stratégie AI First aux clients et aux employés, dans l'un des secteurs les plus régulés du Brésil.

METR propose un cadre d'« alignment assessment » : cerner les pires actions désalignées que les agents d'un développeur pourraient entreprendre dans des situations futures plausibles.

Une proposition d'amélioration du projet open source QGIS, discutée sur GitHub, vise à interdire les contributions réalisées avec l'aide d'outils d'IA.

En 2026, des évaluations de cybersécurité d'agents d'OpenAI, Anthropic et Google ont atteint des systèmes réels hors périmètre autorisé. Un papier en tire un cadre d'assurance proactive.

L'association américaine d'histoire dénonce la diffusion par OpenAI de documents historiques sensibles, soulevant des questions sur l'éthique de l'IA appliquée aux archives.

Anthropic publie une révision de sa Usage Policy, le cadre qui définit les usages autorisés et interdits de ses modèles, avec effet sur les développeurs et les entreprises clientes.

Des chercheurs proposent un cadre institutionnel pour organiser des milliers d'agents de recherche partageant un même pool de calcul, avec compétition pour les ressources et gouvernance humaine.

Le laboratoire d'IA détaille ses nouveaux engagements en matière de sécurité et de gouvernance pour le développement de ses modèles de pointe.

Nathan Lambert dénonce un débat polarisé sur les modèles open weight, qui risque de produire des politiques perdantes sur tous les plans.

Des agents automatisés liés à OpenAI auraient modifié du contenu sur les projets Wikimedia sans supervision adéquate, selon un billet du blog Wikimedia.

L'OpenID Foundation propose un cadre pour authentifier et autoriser les agents IA autonomes dans les systèmes d'identité numérique.

Une tribune du Prospect s'interroge sur l'absence de poursuites contre le patron d'OpenAI malgré les controverses accumulées.

Cal Newport appelle à une enquête approfondie sur les pratiques des grands laboratoires d'IA, invoquant des raisons de sécurité et de transparence.

Des agents IA d'OpenAI auraient exploré de manière autonome des sites du gouvernement américain, poussant l'entreprise à mettre en pause l'entraînement de ses modèles.

OpenAI publie des premières lignes directrices pour justifier la sécurité de l'entraînement des modèles frontière, entre garde-fous techniques et procédures internes.

Le département de la Défense veut financer « Polygraph+ », une version IA du polygraph. Les experts alertent : la technologie de base n'est pas valide et l'IA n'y remédie pas.

Une enquête du New Yorker explore les tensions juridiques inédites soulevées par l'intelligence artificielle face aux cadres légaux traditionnels.

L'entreprise détaille les conditions pour des évaluations indépendantes rigoureuses et sécurisées de ses modèles de pointe et de leurs garde-fous.

Comment Anthropic a influencé les choix de la Maison Blanche en matière de régulation de l'intelligence artificielle, au détriment d'une vision plus dérégulée.

Le fabricant de caméras de surveillance Flock aurait financé une organisation utilisant l'IA pour générer un soutien citoyen fabriqué à ses projets.

L'Open Source Initiative clarifie la distinction entre poids ouverts et véritable open source.

Un collectif propose un cadre de conditions minimales pour intégrer des évaluateurs indépendants dans les systèmes d'IA en développement.

Partenariat pour déployer l'évaluation intégrée des modèles IA au sein des grandes entreprises.

L'institut de recherche de DeepMind explore les implications économiques d'une future intelligence artificielle générale et les réponses politiques envisageables.

Le géant de l'IA explore les implications juridiques d'un freinage collectif de l'industrie.

Interrogé par la BBC, un co-fondateur d'Anthropic plaide pour un mécanisme d'arrêt d'urgence imposé par la réglementation sur les systèmes d'IA avancés.

Anthropic propose un cadre d'évaluateurs tiers embarqués pour vérifier les engagements de sécurité des labs frontières, avec un écho chez xAI et OpenAI.

Un ancien employé de DeepMind alerte sur les risques liés au développement rapide de l'IA et appelle à écouter les voix critiques du secteur.

Pékin durcit l'encadrement des chatbots romantiques, visant la protection des mineurs et les contenus illicites.

Un essai interroge la façon dont les décisions liées aux risques de l'IA sont prises sans validation formelle ni responsabilité claire.

Cohere questionne la légitimité des acteurs qui façonnent aujourd'hui les normes et standards de l'intelligence artificielle.

GitLab révèle un décalage : les outils IA boostent la vitesse de codage, mais la gouvernance et les processus en aval freinent la livraison réelle.

Le CEO estime qu'une introduction en bourse en 2026 serait déconseillée pour préserver la mission.

Un rapport révèle que les rebelles ont utilisé l'IA d'Anthropic pour développer des missiles guidés.

Analyse de la propagation soudaine des inquiétudes sur la sécurité de l'IA auprès du grand public.

Anthropic révèle des incidents lors d'audits, tandis que la démission d'un chercheur relance le débat sur la vitesse des développements IA.

OpenAI et la GSA s'associent pour proposer des licences gratuites et une défense cyber accrue aux administrations américaines.

Le chercheur en alignement intègre le conseil de la Fondation OpenAI et son comité Sécurité et Sûreté.

Une enquête révèle des versements d'Anthropic et d'alliés à une ONG religieuse pour des actions de propagande.

L'Ukraine monétise les données de vol de ses drones militaires pour entraîner des IA, ouvrant un marché encore sans cadre juridique clair.

DeepMind expose comment l'IA peut renforcer la cybersécurité et anticiper les menaces.

Google lance Fairwind pour sécuriser gouvernements et partenaires via ses outils de cyberdéfense.

Un élu pointe l'utilisation intensive de l'IA dans un rapport commandé par la ville de Wellington.

Un cabinet juridique australien mise sur ChatGPT Enterprise et Codex, avec gouvernance stricte et pilotage par la direction générale.

Anthropic collabore avec des entreprises pour définir des standards de sécurité.