LLMCap – Un proxy qui coupe les appels API LLM dès qu'un plafond de dépenses est atteint

LLMCap est un proxy conçu pour stopper automatiquement les appels aux APIs LLM lorsqu'un seuil de dépenses défini est atteint. L'outil s'insère dans la chaîne de requêtes sans modifier le code applicatif existant et permet d'éviter les dépassements de budget imprévus. Il cible développeurs et équipes souhaitant maîtriser leurs coûts d'inférence en production.