OpenAI et Broadcom dévoilent Jalapeño, une puce d'inférence optimisée pour les LLM

OpenAI et Broadcom ont présenté Jalapeño, une puce d'inférence sur mesure dédiée aux LLM, visant à améliorer les performances, l'efficacité énergétique et la scalabilité des systèmes IA. Ce partenariat marque l'entrée d'OpenAI dans le développement de silicon propriétaire pour réduire sa dépendance aux GPU tiers. La puce cible spécifiquement les charges de travail d'inférence à grande échelle.