Le PDG d'Anthropic : l'IA open-source devient dangereuse

Devant des législateurs américains, Dario Amodei, PDG d'Anthropic, a qualifié le développement de l'IA open-source de trajectoire « très dangereuse ». Son argument central : une fois qu'un modèle puissant est distribué librement, l'entreprise qui l'a créé perd toute capacité à surveiller les usages abusifs, à révoquer des accès ou à mettre à jour les garde-fous de sécurité. Cette prise de position intervient dans un contexte de forte pression réglementaire aux États-Unis, où le Congrès cherche à encadrer le développement des systèmes d'intelligence artificielle les plus avancés.

La distinction technique soulevée en marge de ces déclarations mérite d'être précisée : plusieurs observateurs rappellent que les modèles dits « open-source » dans le débat public correspondent en réalité à des modèles à poids ouverts (open weights), c'est-à-dire que les paramètres sont rendus publics, mais pas nécessairement le code d'entraînement complet ni les données. L'Open Source Initiative maintient une définition stricte qui distingue ces deux notions. Cette confusion de terminologie, volontaire ou non, oriente le cadrage politique du débat.

Les réactions au positionnement d'Amodei sont majoritairement critiques et convergent vers un même soupçon : la mise en avant de l'argument sécuritaire masquerait une stratégie de regulatory capture, visant à obtenir une réglementation favorable aux grands laboratoires fermés comme Anthropic, au détriment des acteurs plus petits ou des projets communautaires. L'entreprise, valorisée autour de 65 milliards de dollars et dont le modèle économique repose intégralement sur des API propriétaires, n'a jamais publié de modèle en open weights. Plusieurs commentateurs notent l'incongruité de voir un PDG de laboratoire fermé se positionner en garant de la sécurité publique pour des technologies qu'il ne distribue pas lui-même.

L'argument de la perte de contrôle est contesté sur le fond. Certains avancent que l'open source ne crée pas de risque nouveau : il redistribue qui détient le pouvoir sur ces systèmes. D'autres soulignent que les modèles fermés ont eux aussi été impliqués dans des incidents de sécurité, et que la surveillance centralisée n'est pas une garantie d'absence d'abus. La comparaison historique avec les tentatives de restriction de l'open-source logiciel dans les années 1990 est fréquemment mobilisée pour relativiser l'argument.

Sur le plan économique, la montée en puissance de modèles open weights performants — capables de tourner sur des clusters relativement modestes — représente une menace directe sur le modèle de revenus des laboratoires propriétaires. Des modèles comme ceux de la famille Llama (Meta) ou Mistral offrent des capacités comparables à des modèles commerciaux pour un coût marginal d'inférence quasi nul pour l'utilisateur final. Cette dynamique érode le différentiel de valeur que des entreprises comme Anthropic tentent de maintenir via leurs offres API.

La question posée aux législateurs est donc double : faut-il réguler la diffusion de modèles à fort potentiel, et si oui, qui définit le seuil de dangerosité ? Amodei propose implicitement que ce seuil soit fixé en référence aux capacités des modèles frontier, ce qui reviendrait à réguler précisément la catégorie de modèles qui concurrencent le plus directement Claude. Les partisans de l'ouverture soulignent que confier ce pouvoir de définition aux acteurs dominants du secteur fermé revient à institutionnaliser un avantage concurrentiel sous couvert de sécurité.

Les questions ouvertes restent nombreuses : comment définir légalement un seuil de capacité au-delà duquel un modèle ne pourrait être distribué librement ? Quel organe serait habilité à évaluer ce seuil ? Et dans quelle mesure une régulation nationale américaine pourrait-elle avoir un effet réel, alors que des modèles open weights sont déjà distribués depuis des juridictions hors de portée du Congrès américain ? Le débat entre sécurité et accessibilité n'est pas près de se clore, et les auditions législatives n'en sont qu'au stade de la mise en cadrage du problème.