Nvidia réagit vivement aux rumeurs concernant les TPU de Meta et Google

Jensen Huang, PDG de Nvidia

Meta pourrait utiliser les TPU de Google à partir de 2027, ce qui a provoqué une baisse de la valeur boursière de Nvidia.

Selon The Information, Meta souhaite déployer les nouveaux TPU de Google dans ses propres centres de données. Pour Nvidia, qui fournit habituellement Meta, cela n’est pas agréable. Surtout maintenant que la demande pour les accélérateurs Ironwood de Google croît fortement.

Nvidia souligne dans une réaction que Google fait « de grands progrès », mais affirme en même temps que sa propre plateforme « a une génération d’avance » et prend en charge tous les modèles d’IA, quelle que soit la charge de travail ou l’environnement.

Pas de transition simple vers les clusters TPU

Même si Google vendait des TPU, une transition pour Meta serait tout sauf facile, écrit The Register. Les clusters TPU utilisent des commutateurs de circuits optiques, qui diffèrent des environnements GPU basés sur Nvidia et AMD. De plus, PyTorch ne fonctionne pas nativement sur les TPU.

Cela rend plus probable que Meta parle principalement d’une meilleure optimisation d’inférence pour Llama sur le matériel Google, et non d’une adoption complète des TPU. L’inférence est moins lourde, moins chère et fonctionne sans problème sur des TPU loués.

Les TPU de Google gagnent du terrain

Anthropic mobilise jusqu’à un million de TPU Google pour sa prochaine génération Claude, et Amazon investit également dans les TPU pour Trainium. En parallèle, l’entreprise a conclu la semaine dernière un contrat de plusieurs milliards avec Microsoft et Nvidia pour Azure.