La première puce d’inférence personnalisée d’OpenAI, connue sous le nom de Jalapeño, a surpassé le processeur GB300 de Nvidia Corp. lors de tests, a déclaré le responsable des puces Richard Ho dans une interview accordée à Bloomberg.
Ho a déclaré que la puce avait affiché de meilleures performances lors de tests mesurant les performances d’IA par watt et la rapidité des réponses.
« En laboratoire, Jalapeño affiche des performances à la fois dans le domaine du haut débit, ce qui signifie qu’elle pourra servir beaucoup de clients à moindre coût, et dans celui de la faible latence, ce qui signifie que, pour les clients qui y attachent de l’importance, le temps de réponse sera vraiment, vraiment rapide », a rapporté Bloomberg en citant Ho dans un article publié mardi.
Jalapeño a été développée en partenariat avec Broadcom Inc., qui fabrique des puces personnalisées pour une clientèle variée. Les deux entreprises ont annoncé leur collaboration l’an dernier et ont déclaré en juin que le processeur avait été développé en un temps record.
La puce est conçue pour l’inférence d’IA, qui consiste à faire répondre des modèles d’IA entraînés aux prompts et à leur faire exécuter des tâches. Elle n’est pas conçue pour entraîner des modèles d’IA, un domaine dans lequel la technologie de Nvidia excelle, a déclaré Ho.
Jalapeño n’a pas non plus été testée face aux nouvelles puces Vera Rubin de Nvidia, dont les livraisons ont récemment commencé.
Tests
OpenAI a déclaré dans un article de blog avoir testé Jalapeño sur InferenceX, un benchmark public de SemiAnalysis qui mesure la rapidité et l’efficacité avec lesquelles un système peut traiter une requête d’IA. Les tests portaient sur des charges de travail à haut débit et à faible latence.
Avec DeepSeek R1 670B, Jalapeño a atteint un débit maximal de jetons mixtes par kilowatt 1,7 fois supérieur à celui du système Nvidia GB300. Sa latence de bout en bout était également 3,6 fois plus faible, à 1.65 seconde contre 5.99 secondes pour le système GB300.
Kimi K2.5 1T, le plus grand modèle public évalué lors du test, a produit un gain de 1,5 fois en performances maximales par watt avec Jalapeño, a déclaré OpenAI. La latence de bout en bout était 3,4 fois plus faible.
OpenAI a également comparé Jalapeño à la Nvidia GB200 avec GPT-OSS 120B. La puce a atteint un débit maximal de jetons mixtes par kilowatt 1,9 fois supérieur, à 85,448 contre 44,960.