OpenAI et Broadcom ont dévoilé ensemble Jalapeño. Jalapeño est la première puce IA de conception propre d’OpenAI. Cet accélérateur d’inférence est spécifiquement conçu pour les grands modèles de langage et vise à rendre les applications d’IA plus rapides, moins coûteuses et plus fiables.
OpenAI dévoile avec Jalapeño son propre accélérateur d’IA. Jalapeño n’est pas une version modifiée d’une puce existante, mais une conception entièrement nouvelle élaborée autour des exigences d’OpenAI pour les modèles de langage modernes. Le spécialiste de l’IA a collaboré avec Broadcom pour l’implémentation de la puce et la technologie réseau, ainsi qu’avec Celestica pour l’intégration ultérieure. L’année dernière, il était déjà apparu qu’OpenAI souhaitait développer sa propre puce d’IA avec Broadcom.
Optimisé pour l’inférence
Selon OpenAI, l’objectif de Jalapeño est de combler le fossé entre la puissance de calcul des grands accélérateurs d’IA et la faible latence des systèmes d’inférence spécialisés. L’architecture de la nouvelle puce réduit les transferts de données et doit équilibrer la puissance de calcul, la mémoire et la capacité réseau, afin que la puce fonctionne au plus près de ses performances de pointe théoriques.
Selon le fabricant, les premiers tests montrent que la puce est plus performante par watt que la génération actuelle d’accélérateurs. Ces affirmations sont toujours à prendre avec des pincettes. Les concepteurs d’accélérateurs propriétaires choisissent les charges de travail qu’ils utilisent pour tester la puce. L’efficacité pour un type d’inférence IA n’implique pas nécessairement que la puce surpasse la concurrence dans tous les scénarios.
Neuf mois de gestation
De la conception initiale au « tape-out » de production, il n’a fallu que neuf mois, ce qu’OpenAI décrit comme le cycle de développement ASIC le plus rapide jamais réalisé dans le domaine des semi-conducteurs de haute performance. L’entreprise attribue une partie de cette rapidité à l’utilisation de ses propres modèles d’IA pour accélérer le processus de conception et d’optimisation.
OpenAI prévoit le premier déploiement de Jalapeño d’ici fin 2026, à l’échelle du gigawatt chez des partenaires de centres de données, dont Microsoft. L’entreprise considère cela comme la première étape d’une évolution vers un fournisseur plus large de plateforme d’IA allant au-delà du simple LLM.