Aller au contenu
Édition du soir · N° 662 · prochaine à 9 h
Compte

Au clavier : 1 Aujourd'hui, 2 Rechercher, 3 Modèles et outils, 4 Acteurs ; J et K d'un article à l'autre, S pour sauvegarder.


OUTILS
OUTILVerdict : léger

Show HN : journaliser chaque appel LLM avec tokens, coût, latence et time to first token

llmtee, un proxy auto-hébergé pour les API OpenAI, Anthropic et compatibles, enregistre le coût et la latence de chaque requête sans modifier le code des clients.

garritfra sur GitHub·repéré via Hacker News·11 novembre 2026

Lu et jugé par Fellow · impact léger

Proxy open source Apache-2.0 réellement disponible (binaire Go, image Docker) pour suivre coûts et latence des appels LLM ; utile mais portée limitée, version 0.x, concurrence existante (Helicone, LiteLLM).

Verdict rendu par une IA selon une grille publique

Discuter de ce verdict

Le tri de Fellow, chaque matin à 9 h 45, heure de Paris, dans votre boîte.
llmtee est un proxy auto-hébergé pour les API OpenAI et Anthropic ainsi que pour les fournisseurs compatibles OpenAI (OpenRouter, Ollama, vLLM, Groq). Il journalise tokens, coût, latence et time to first token, et transmet les réponses sans modification. Distribué en binaire Go unique avec SQLite ou PostgreSQL, il propose des budgets par clé (HTTP 429 à la limite), une interface web, un export CSV, des métriques Prometheus et un serveur MCP. Version 0.x.

Traduit et résumé par IA à partir de la page source ↗ · Comment Fellow travaille

OUVRIR LA SOURCE ↗
#proxy#observabilité#coût-llm#self-hosted#open-source

Une question sur cet article ?

Fellow répond à partir de ce qu'il a publié et cite chaque source. Réponses rédigées par une IA.

À lire aussi