Itdaily - Course au mégawatt : pourquoi nous entassons toujours plus de puissance de calcul dans une seule baie

Course au mégawatt : pourquoi nous entassons toujours plus de puissance de calcul dans une seule baie

Armoire serveur ouverte avec des nœuds de calcul, logos de Los Alamos, NVIDIA et NNSA sur le panneau.

Les baies de serveurs évoluent à un rythme effréné, passant de quelques dizaines de kilowatts à un mégawatt complet par armoire. HPE explique pourquoi cette densité extrême n’est pas une fin en soi, mais une nécessité physique pour les charges de travail modernes d’IA et de HPC.

Selon HPE, les clients demandent constamment pourquoi une baie doit impérativement consommer 400 kilowatts ou plus. La réponse est simple : la proximité. Plus les nœuds de calcul et le réseau sont proches les uns des autres, plus le système dans son ensemble est performant. Cela s’inscrit parfaitement dans le mantra du fondateur de Cray, Seymour Cray. Il soulignait toujours que ce n’est pas la vitesse des composants individuels qui compte, mais la vitesse du système.

Les systèmes Cray atteignent une faible latence et des performances élevées en couplant tout de manière très serrée et en utilisant des interconnexions en cuivre plutôt que, par exemple, InfiniBand. Cela permet de maintenir des coûts bas et des performances élevées. Nous observons aujourd’hui le même principe avec les configurations d’IA telles qu’un Nvidia Vera Rubin NVL72, où une topologie all-to-all exige que la prochaine génération de GPU de deux à trois kilowatts soit placée aussi près que possible les uns des autres.

La chaleur doit être évacuée

Ce couplage étroit a un prix. Lorsque les composants sont ainsi serrés, ils subissent des contraintes thermiques : la chaleur augmente sans cesse dans un espace de plus en plus restreint. Le refroidissement par air devient alors tout simplement impossible, et le refroidissement liquide ne peut plus être une considération secondaire. Dès la conception du circuit imprimé et de la puce, les ingénieurs doivent réfléchir à la manière dont l’ensemble sera refroidi, une philosophie de conception fondamentalement différente de celle d’autrefois, où n’importe quel dissipateur thermique évacuait la chaleur.

Système de refroidissement du supercalculateur HPE Cray, avec tuyaux chromés et tuyaux rouges et bleus

La grande question est de savoir où se situe la limite. Personne ne le sait précisément, car une baie d’un mégawatt se profile déjà à l’horizon, soit plus du double des baies les plus denses d’aujourd’hui. Ce qui viendra ensuite, deux mégawatts, cinq mégawatts, dépendra des besoins de la puce. HPE souligne que personne ne conçoit une baie de cinq mégawatts pour le plaisir du design ; il doit y avoir un avantage concret à un regroupement aussi dense.

De plus, les fabricants de puces se freinent délibérément. Selon HPE, ils pourraient techniquement concevoir un GPU de cinq mégawatts, mais personne sur terre ne posséderait la technologie pour refroidir un tel engin, et qui l’achèterait alors ? AMD, Nvidia et les constructeurs de serveurs travaillent tous avec les mêmes fournisseurs de CDU (Coolant Distribution Units) et de collecteurs.

Il en résulte un dialogue de plus en plus soutenu sur la chaîne d’approvisionnement, où chacun sait à l’avance où le marché devra se situer dans deux ans. Autrefois, une baie d’un mégawatt était une surprise après laquelle toute la chaîne devait courir. Aujourd’hui, ces étapes sont planifiées ensemble, précisément pour éviter que l’ensemble de la chaîne ne puisse plus suivre.

Alimentation et refroidissement évoluent de pair

L’augmentation de la densité n’est jamais une question de refroidissement seul. HPE remarque que les clients frappent généralement à la porte en raison de problèmes thermiques. Dès qu’une baie de 80 kilowatts est proposée, il s’avère souvent que ce même client ne parvient même pas à obtenir cette puissance d’alimentation.

L’alimentation et le refroidissement doivent croître au même rythme. Un manque extrême de l’un ou de l’autre bloque de toute façon le progrès. C’est pourquoi la course à l’armoire d’un mégawatt est tout autant une question d’alimentation électrique, le passage au courant continu de 800 volts constituant l’une des prochaines grandes interventions infrastructurelles.