Nvidia lance DGX Cloud Lepton : une place de marché pour la capacité GPU cloud

nvidia

Nvidia propose avec DGX Cloud Lepton une plateforme d’IA qui connecte les développeurs à un réseau mondial de fournisseurs de cloud GPU via une place de marché centralisée.

Nvidia annonce DGX Cloud Lepton. Il s’agit d’une nouvelle plateforme offrant aux développeurs l’accès à des dizaines de milliers de GPU de fournisseurs cloud du monde entier. CoreWeave, Crusoe, Firmus, Foxconn, GMI Cloud, Lambda, Nebius, Nscale, SoftBank Corp. et Yotta Data Services, entre autres, participent à la plateforme et mettent leur infrastructure GPU à disposition via Lepton.

La plateforme vise à répondre à la demande croissante de puissance de calcul pour les applications d’IA, y compris l’IA basée sur les agents et l’IA physique. DGX Cloud Lepton permet aux développeurs de réserver la capacité GPU par région, tant à la demande que pour une utilisation à long terme.

Tout Nvidia

Selon Nvidia, cela permet aux entreprises de mieux répondre aux exigences en matière de souveraineté des données et de faible latence. Le fait que Nvidia abaisse également le seuil d’utilisation de son propre écosystème est un avantage supplémentaire.

La plateforme s’intègre à la pile logicielle Nvidia existante, y compris NIM et les microservices NeMo, les Blueprints et les Cloud Functions. Cette combinaison vise à simplifier le processus de développement et de déploiement des applications d’IA, à nouveau au sein de son propre environnement. Pour les fournisseurs cloud, DGX Cloud Lepton offre des fonctions de gestion telles que le diagnostic en temps réel des performances GPU et l’analyse automatisée des erreurs.

lire aussi

Nvidia présente les serveurs RTX Pro : nouvelle conception pour les charges de travail IA

DGX Cloud Lepton est conçu pour les développeurs. Ils peuvent s’inscrire pour un accès anticipé à la plateforme, qui devrait à terme devenir un hub central pour la capacité de calcul GPU mondiale.

Exemplar Cloud

Parallèlement au lancement de Lepton, Nvidia présente également son initiative Exemplar Cloud. Avec celle-ci, l’entreprise souhaite aider ses partenaires cloud à optimiser la sécurité, les performances et la fiabilité de leurs services d’IA. Cela se fait à nouveau à l’aide du matériel, des logiciels et des outils opérationnels de référence de Nvidia, qui renforce encore son emprise sur l’écosystème de calcul GPU lors de cette édition de Computex.