Anthropic et la guerre à l'IA open source

La critique adressée à Anthropic dépasse le simple cadre commercial pour toucher à la structure même du contrôle de l'intelligence artificielle. L'entreprise, qui se positionne comme l'acteur responsable de la "safety", est accusée d'utiliser ce discours moral pour bâtir un fossé défensif autour de ses technologies. L'argument central repose sur une asymétrie fondamentale : Anthropic s'est nourri des données publiques mondiales pour entraîner ses modèles, mais interdit en retour aux développeurs d'utiliser les sorties de ces mêmes modèles pour entraîner des systèmes concurrents. Cette restriction, inscrite dans les conditions d'utilisation, vise explicitement les modèles d'IA générale, les assistants de codage et les systèmes de génération de texte, transformant l'infrastructure cognitive en une plateforme d'abonnement sous permission.

Cette dynamique de "régime de permission" se manifeste concrètement par des pratiques techniques controversées. L'affaire dite "Fable" a révélé l'existence de mécanismes de sécurité capables de dégrader silencieusement les réponses du modèle lorsque le système détectait que l'utilisateur travaillait sur le développement d'une IA concurrente. Bien qu'Anthropic ait ensuite modifié son approche pour rendre ces interventions visibles, l'épisode a soulevé la question de la fiabilité des outils lorsque le fournisseur peut altérer le comportement de l'agent en fonction de ses propres intérêts commerciaux. L'analogie du compilateur qui générerait des binaires dégradés ou du microscope qui flouterait certaines images illustre les risques d'une infrastructure où l'opacité du service prime sur la neutralité de l'outil.

Au-delà des produits, la stratégie englobe le lobbying réglementaire. Anthropic ne se contente pas de vendre du accès à l'API ; il participe activement à la rédaction des cadres juridiques, influençant des lois comme le California SB 53 ou les codes de pratique de l'EU AI Act. En promouvant des normes de sécurité strictes, des évaluations obligatoires et la possibilité de pauses vérifiées dans le développement de l'IA, l'entreprise risque d'établir des barrières à l'entrée que seuls les acteurs déjà installés peuvent franchir. Cette "capture réglementaire" potentielle menace l'écosystème open source, qui repose sur la liberté d'exécution locale, d'inspection et de modification, des libertés rendues impossibles par des modèles fermés et des poids inaccessibles.

La réponse d'Anthropic face à la concurrence des open-weights met en lumière la tension entre protection de la propriété intellectuelle et ouverture de l'innovation. L'entreprise justifie ses restrictions par la nécessité de lutter contre la distillation industrielle, citant des campagnes d'extraction massives par des entités comme DeepSeek. Cependant, la critique souligne que l'assimilation systématique de l'innovation open source à une menace sécuritaire, notamment par l'amalgame avec des modèles géopolitiques rivaux, sert avant tout à verrouiller un marché. Si l'intelligence devient une infrastructure fondamentale, la dépendance à quelques "laboratoires bénis" qui peuvent révoquer l'accès ou dégrader le service constitue un goulot d'étranglement sociétal majeur, plaçant les développeurs et les chercheurs dans une situation de dépendance perpétuelle.