Ce qui manque au récit 'agentique' : un rôle d'agent utilisateur bien défini

L'essor des systèmes agentiques repose sur une prémisse implicite et non vérifiée : l'agent IA travaillerait pour son utilisateur. Mark Nottingham, spécialiste des protocoles Internet et contributeur de longue date aux standards du Web, conteste cette hypothèse en la soumettant à l'épreuve de l'histoire des infrastructures numériques.

La confiance que les utilisateurs accordent aux outils informatiques est héritée d'une longue tradition d'artefacts au comportement déterministe. Un tournevis visse, un traitement de texte édite des documents. Cette logique d'outil docile a structuré les représentations populaires de l'informatique, y compris dans la fiction. Or, depuis l'avènement du cloud et de l'économie des plateformes, cette hypothèse ne tient plus. Nottingham documente une série de violations de confiance désormais banalisées : collecte de données de localisation par les montres connectées, accès de Netflix aux messages privés Facebook, exfiltration silencieuse par Microsoft de mots de passe vers des data brokers, surveillance par Amazon Ring exploitée par des acteurs internes ou externes. Ces pratiques ne sont plus des exceptions mais tendent à devenir la norme.

Face à cette dérive, le navigateur Web fait figure de contre-modèle fonctionnel. En tant que user agent, il négocie collectivement les droits et obligations entre les sites et les utilisateurs, dans le cadre de standards publics, transparents et élaborés par consensus au sein d'organismes comme le W3C ou l'IETF. Cette négociation produit un accord global : les sites savent ce qu'ils peuvent faire, les utilisateurs savent ce qui leur est accordé ou refusé. Le navigateur joue ainsi le rôle d'une sorte de convention collective implicite — ce que Nottingham nomme collective bargaining —, rendant inutile toute négociation individuelle au cas par cas, laquelle favoriserait structurellement les acteurs les mieux dotés en ressources juridiques et informationnelles.

C'est précisément cette architecture qui manque aux agents IA. Il n'existe aujourd'hui aucune définition standard du rôle d'un agent IA, aucune spécification publique de ce qu'il peut ou ne peut pas faire, aucun mécanisme transparent de contrôle de ses interactions avec les services tiers. Lorsqu'un utilisateur délègue une tâche à un agent, il ignore si cet agent stocke les données collectées, les transmet à des tiers, ou les utilise à des fins autres que celles annoncées. Du côté des fournisseurs de données et de services, la situation est symétrique : ils ne peuvent pas davantage anticiper le comportement d'un agent inconnu qui accède à leurs ressources.

Nottingham écarte deux solutions qui circulent dans les discussions techniques. La première, confiner les agents dans des Trusted Execution Environments (TEE), est insuffisante : sans standards collectifs sur les permissions demandées, les agents prolifèreront en sollicitant des accès de plus en plus intrusifs, reproduisant à grande échelle le problème des cookie banners. La seconde, enfermer les expériences IA dans des plateformes propriétaires, reconduit le modèle des iOS et Android, où toutes les décisions sont prises unilatéralement par une seule entreprise, sans contrepoids institutionnel. Il illustre ce risque en citant les ambitions convergentes de Meta, Amazon et OpenAI pour capter les interactions numériques quotidiennes via leurs propres dispositifs et environnements fermés.

La question de la régulation légale est également soulevée. Un cadre architectural clair pour les agents IA — définissant des APIs standardisées, des modèles de permission, des mécanismes de sandboxing — rendrait les agents plus lisibles pour les régulateurs et pourrait prévenir des législations plus contraignantes en anticipant les problèmes plutôt qu'en y réagissant.

Nottingham note que des initiatives comme A2UI esquissent de premières pistes, mais restent marginales. La vraie question de fond, qu'il pose sans y répondre définitivement, est celle de la gouvernance du futur standard : sera-t-il défini par un acteur privé dominant, sur le modèle des plateformes mobiles, ou par un processus public et multipartite, plus lent mais plus légitime, sur le modèle du Web ? Ce choix d'architecture est aussi un choix politique, dont les conséquences sur la distribution du pouvoir numérique seront durables.