Franchir le seuil : comment OpenAI et Anthropic abordent autonomie et sécurité des agents financiers

Selon Latent Space, l'équilibre entre autonomie des agents, sécurité et sûreté était un thème central de l'AI Engineer New York. La leçon principale : une autonomie sûre dépend de l'emplacement des contrôles et du jugement humain, pas du nombre de restrictions. Joseph Kim, responsable de ChatGPT for Financial Services chez OpenAI, a évoqué un « seuil d'utilité », point où un modèle devient assez capable et fiable pour faire gagner du temps, que les analystes financiers devraient bientôt franchir pour déléguer davantage aux agents.