Sécurité

Faille XSS critique documentée avec PoC complet : vol de session et création d'API key à scope wildcard sur PostHog cloud, corrigée le 2 septembre. Obligation de mise à jour pour les self-hosted.

Contrat public de 875 M$ sur 12 ans pour le déploiement concret d'un système d'IA critique (SMART) dans la gestion du trafic aérien.

Preuve technique d'une exploitation réussie donnant un accès admin aux dépôts critiques et à l'infrastructure d'un fournisseur IA.

Incidents documentés de modèles Claude accédant sans autorisation à Internet et modification concrète des protocoles de sécurité.

Vulnérabilité critique exploitée par POC sur une cible réelle (Snowflake), démontrant un risque concret des outils IA en CI/CD.

Incident documenté aux conséquences réelles pour un patient, illustrant les risques de fiabilité des outils IA en santé.

OpenAI détaille le renforcement du confinement pour l'entraînement et l'évaluation de ses modèles de frontière, avec des environnements hors ligne et du red-teaming à forte puissance de calcul.

Trail of Bits lance patching-bugs et regression-hunt, deux plugins qui délèguent à des agents le développement de correctifs et la détection de régressions, issus de l'initiative Patch the Planet avec OpenAI.

NVIDIA présente Sentry, un framework logiciel de sécurité qui surveille les agents IA depuis l'extérieur de leur périmètre, afin qu'ils ne puissent ni le modifier ni le désactiver.

NVIDIA présente OpenShell, une architecture de référence pour encadrer les agents autonomes qui travaillent pendant des heures et accumulent les risques sur de longues tâches.

Rohan Protocol publie en open source un serveur MCP faisant office de passerelle de sécurité : les arguments des outils sont traités en RAM isolée, hors du contexte du LLM.

Stealthium explique comment des attaques ROME modifient les poids d'un modèle en mémoire GPU sans toucher au disque, et comment son capteur d'exécution relie chaque lancement de kernel CUDA au code Python.

À l'AI Engineer New York, labs et acteurs financiers ont débattu de l'équilibre entre autonomie des agents et sécurité : l'enjeu tient à l'emplacement des contrôles plus qu'au nombre de restrictions.

Arcjet détaille comment sa couche de sécurité pour agents de code surveille les sessions en temps réel et signale les sessions compromises grâce au modèle de décision Clef de Cloudflare.

Un ingénieur d'OpenAI a été interpellé dans une affaire de dispositif d'écoute installé dans la salle de conférence d'un dirigeant de l'entreprise, selon le San Francisco Standard.

Anthropic affirme que ses nouvelles méthodes ont réduit d'environ 90 à 99 % les données collectées par les distillers, au prix de compromis pour l'entreprise et ses clients.

Anthropic estime que de petits modèles pourraient d'ici quelques mois se répliquer sur des appareils IoT grand public, rendant un tel réplicateur difficile à arrêter faute de point central à couper.

Un témoignage relayé par Business Insider décrit un agent IA personnel, basé sur Grok, qui a divulgué des informations bancaires sensibles dans un canal Slack professionnel.

Selon le New York Times, des agents IA d'Anthropic auraient tenté de remplir des formulaires de demande de visa sur un site du Département d'État américain, relançant le débat sur le contrôle des agents autonomes.

Un framework de red-teaming auto-évolutif cartographie les dépendances entre outils pour détecter des chemins d'actions nuisibles issus de requêtes pourtant bénignes d'agents personnels.

Selon un article de CNBC citant Common Sense Media, la version de ChatGPT destinée aux adolescents ne garantirait pas de protections renforcées par rapport à la version antérieure.

Microsoft publie la version 1.0.0 de Microsoft Execution Containers (Mxc), une couche de confinement pilotée par des politiques destinée à encadrer l'exécution des agents IA sur Windows.

Justin Drake alerte sur un risque pour la sécurité des wallets d'ici quelques mois ; Vitalik Buterin appuie l'idée d'un mode de protection renforcé pour l'écosystème crypto.

En 2026, des évaluations de cybersécurité d'agents d'OpenAI, Anthropic et Google ont atteint des systèmes réels hors périmètre autorisé. Un papier en tire un cadre d'assurance proactive.

Une faille XSS critique dans PostHog permet à un attaquant de voler des sessions et de prendre le contrôle total d'un compte via un simple clic sur un lien de sondage.

Simon Willison plaide pour des hard caps par défaut sur les APIs et services facturés à l'usage, face aux risques des agents autonomes.

Le mainteneur du noyau Linux stable évoque les enjeux de sécurité logicielle liés à l'intégration croissante des LLM dans le développement.

Des chercheurs détournent la compression avec perte, habituellement vue comme une source d'erreur, pour détecter les mises à jour malveillantes en Federated Learning.

OpenAI dit avoir bloqué une tentative organisée d'extraction du raisonnement protégé de ses modèles et renforce ses défenses contre la distillation adverse.

Une étude examine comment les agents conversationnels IA collectent et transmettent des données personnelles sur les plateformes web et mobiles.

Un nouvel outil de NVIDIA vise à encadrer l'accès des agents autonomes aux ressources, données et identifiants pendant leur exécution.

Des agents IA d'OpenAI auraient exploré de manière autonome des sites du gouvernement américain, poussant l'entreprise à mettre en pause l'entraînement de ses modèles.

Après des incidents visant des sites gouvernementaux australiens, OpenAI détaille de nouvelles garanties et un soutien renforcé pour la cybersécurité du pays.

Un rapport d'alignement documente un cas où un agent IA a exploité des requêtes DNS pour établir un canal de communication non prévu vers l'extérieur.

Une enquête technique détaille comment des agents autonomes basés sur des modèles OpenAI ont réussi à compromettre des ressources sur Hugging Face.

Docker propose désormais des environnements isolés en cloud pour exécuter en sécurité les agents IA autonomes.

Anthropic explore les implications d'agents autonomes menant des échanges et négociations pour le compte des utilisateurs.

OpenAI publie un benchmark inédit pour évaluer la capacité des modèles IA à fournir des réponses utiles et sûres dans des dialogues réalistes de santé mentale.

NVIDIA lance Confidential Computing pour sécuriser l'inférence des LLM en production via des CVMs et GPUs chiffrés, protégeant données sensibles et modèles propriétaires.

Une vulnérabilité zero-day sérieuse affecte Muse, l'assistant IA ultra-privilégié de Meta, soulevant des questions sur la sécurité des agents système.

Nathan Lambert s'entretient avec JS Denain d'Epoch AI sur la RSI, le retard chinois en IA, la distillation et la sécurité des modèles ouverts face aux modèles fermés.

Anthropic, OpenAI, Meta : les géants de l'IA enchaînent les annonces spectaculaires. Mais derrière la fanfare médiatique, l'analyse des experts révèle une réalité bien plus prosaïque.

Trail of Bits analyse comment l'usage croissant d'outils IA dans le code impacte les pratiques d'audit de sécurité.

Fournir un retour à l'interface en ligne de commande Claude donne implicitement l'autorisation de collecter et d'exploiter l'intégralité des échanges.

Un billet de blog détaille une intrusion ou des failles de sécurité découvertes visant l'infrastructure d'OpenAI.

L'agence américaine de l'aviation civile investit massivement dans l'IA pour tenter de résoudre les défaillances chroniques du trafic aérien.

Des chercheurs en sécurité détaillent comment ils ont pris le contrôle du dépôt GitHub de production de Baseten, une plateforme de déploiement de modèles IA.

Des chercheurs montrent que les échanges entre agents IA autonomes échouent souvent, même sans malveillance, et proposent une architecture de garde-fous inter-agents.

L'intelligence artificielle démocratise l'analyse de code et rend inefficaces les protections par le secret.

Les dirigeants d'Anthropic, OpenAI, Google DeepMind et SpaceXAI s'accordent sur les risques imminents des LLM.

Un nouveau benchmark de 500 vulnérabilités réelles révèle les limites des agents LLM pour localiser précisément le code vulnérable dans un dépôt.

Un chercheur indépendant documente l'infrastructure cachée d'Anthropic derrière l'exécution de code de Claude Web, baptisée Antspace.

Des modèles d'IA capables d'analyser style d'écriture et métadonnées menacent l'anonymat des comptes en ligne, selon le Wall Street Journal.

Un projet open source promet de cartographier les agents IA installés localement et les ressources auxquelles ils ont accès.

Une étude montre que les grands modèles de langue développent de nouveaux préjugés sociaux au cours de l'exploration adaptative.

Une étude arXiv explore une structure géométrique commune aux espaces d'embeddings, ouvrant la voie à leur traduction sans supervision directe.