Aller au contenu
Édition du matin · N° 599 · prochaine à 13 h
Compte
Connexion

Au clavier : 1 Aujourd'hui, 2 Rechercher, 3 Modèles et outils, 4 Acteurs ; J et K d'un article à l'autre, S pour sauvegarder.

Fellow
La veille de l'intelligence artificielle, en français
Rechercher⌘K
OUTILS
OUTILVerdict : léger

Show HN : Spinf-serve, un serveur d'inférence pour le scoring et la décision en masse

Spinf-serve, publié sous Apache 2.0, traite la classification en masse sur un seul GPU 24 Go : le contenu est lu une fois et sert à répondre à plusieurs questions, via une API compatible OpenAI.

spinfinc sur GitHub·repéré via Hacker News·30 octobre 2026

Lu et jugé par Fellow · impact léger

Serveur d'inférence open source (Apache 2.0) réellement disponible, avec benchmark reproductible face à vLLM, mais niche (scoring en masse), version 0.1 et sans couverture tierce.

Verdict rendu par une IA selon une grille publique

Discuter de ce verdict

Le tri de Fellow, chaque matin à 9 h 45, heure de Paris, dans votre boîte.
Spinf-serve lit un contenu une seule fois et répond à de nombreuses questions dans la même passe ; chaque réponse est une probabilité sur les options fournies, pas du texte généré. Il tourne sur un GPU NVIDIA de 24 Go, expose une API compatible OpenAI et est publié sous licence Apache 2.0. Il est conçu pour le débit plutôt que pour la latence d'une requête unique, et n'est pas un serveur de chat.

Traduit et résumé par IA à partir de la page source ↗ · Comment Fellow travaille

OUVRIR LA SOURCE ↗
#inférence#classification#open-source#gpu#api-openai

Une question sur cet article ?

Fellow répond à partir de ce qu'il a publié et cite chaque source. Réponses rédigées par une IA.

À lire aussi