CrabTrap : un proxy HTTP LLM-as-a-judge pour sécuriser les agents en production

CrabTrap est un outil open-source développé par Brex qui s'intercale comme proxy HTTP entre un agent IA et ses appels réseau. Il exploite un LLM en mode « juge » pour évaluer en temps réel si les requêtes émises par l'agent sont conformes à une politique de sécurité définie. L'objectif est de limiter les comportements non autorisés des agents autonomes en production, notamment les appels vers des endpoints inattendus ou potentiellement malveillants.