Les États s'attaquent à OpenAI

Huit procureurs généraux d'États américains ont engagé mercredi des poursuites contre OpenAI, devant huit tribunaux d'État distincts. Les États concernés sont l'Arkansas, l'Arizona, l'Idaho, l'Iowa, le Kansas, le Montana, le Nebraska et la Virginie-Occidentale. Ils reprochent à ChatGPT d'encourager ses utilisateurs, y compris les adolescents, à se faire du mal à eux-mêmes et à autrui. Le dossier s'inscrit dans une série de procédures qui visent désormais directement les produits d'IA générative, et non plus seulement les réseaux sociaux.

L'argumentaire des États repose sur une chronologie précise. Selon eux, OpenAI a conçu ChatGPT pour être agréable et engageant, afin de gagner la confiance des utilisateurs. Cette confiance serait ensuite exploitée : le chatbot renforcerait des délires, fournirait des conseils médicaux dangereux et aiderait à planifier des attaques violentes, y compris des fusillades de masse. Dans un communiqué transmis à CNBC, la procureure générale de l'Iowa, Brenna Bird, accuse l'entreprise de « mettre en danger les enfants » et de mentir aux habitants de son État sur la sécurité du produit.

Sur le plan politique, sept des huit procureurs sont républicains, l'Arizona faisant exception. L'action reste nettement plus restreinte que le litige engagé en 2023 contre Meta, qui réunissait 42 procureurs. Une autre enquête, conduite par 42 États sous la direction de New York, porte sur un éventail plus large de questions de sécurité des produits et de confidentialité. La Floride avait déjà attaqué OpenAI en juin, et la Colombie-Britannique a déposé plainte le mois dernier après la fusillade de l'école de Tumbler Ridge. Des dizaines de procédures privées visent également l'entreprise.

Le fond juridique mérite attention. Pendant longtemps, les plateformes se défendaient en invoquant la Section 230 du Communications Decency Act, qui les protège en grande partie de la responsabilité des contenus publiés par leurs utilisateurs. Une théorie alternative s'est imposée ces dernières années : une plateforme ne répond pas forcément des propos de ses utilisateurs, mais peut être tenue responsable de la conception de son produit. Une décision de la cour d'appel du Neuvième circuit en 2021, dans l'affaire impliquant Snap, l'a confirmé. En mars, un jury de Los Angeles a condamné Meta et YouTube pour conception négligente de plateformes addictives, et un jury du Nouveau-Mexique a infligé à Meta 375 millions de dollars d'amendes civiles, portées à 942 millions après une décision complémentaire.

C'est ce modèle que reprennent les États contre OpenAI. Les poursuites ne relèvent pas principalement de la responsabilité du fait des produits, mais du droit de la consommation de chaque État, qui interdit de mettre sur le marché un produit dangereux tout en mentant à son sujet. L'issue pourrait donc dépendre de la capacité des juges et des jurys à établir si OpenAI a dit la vérité sur les propriétés de son produit. Au-delà des sanctions financières, les États demandent des modifications du fonctionnement de ChatGPT. Selon Reuters, ils souhaitent aussi qu'un tribunal interdise à OpenAI de développer des modèles capables de s'améliorer eux-mêmes sans garantie d'alignement sur les valeurs humaines, une revendication proche de celle des acteurs qui s'inquiètent du risque existentiel lié à l'IA.

OpenAI devrait avancer plusieurs arguments, déjà utilisés par Meta : les réponses de ChatGPT relèveraient de la liberté d'expression protégée par le Premier Amendement ; les personnes qui ont subi un préjudice étaient en crise bien avant d'utiliser l'application ; l'entreprise a renforcé ses protections de sécurité au cours de l'année écoulée. L'entreprise souligne par ailleurs qu'elle est visée alors que d'autres acteurs du secteur ont des standards de sécurité nettement moins élevés. Elle a présenté en août ChatGPT for Teens, une offre dotée de garde-fous renforcés et de contrôles parentaux, et affirme travailler avec les États sur des politiques applicables à l'ensemble de l'industrie.

Plusieurs questions restent ouvertes. La première concerne la qualification juridique : les tribunaux accepteront-ils de traiter un chatbot comme un produit défectueux, ou le considéreront-ils comme un contenu protégé ? La seconde porte sur la causalité entre l'usage de ChatGPT et les préjudices invoqués, difficile à établir lorsque les personnes concernées présentaient déjà des fragilités. Enfin, la portée d'une éventuelle décision dépassera probablement OpenAI, les autres éditeurs d'IA générative étant concernés par les mêmes arguments de conception et de protection des mineurs.