Itdaily - IA d’entreprise au datacenter : pourvu que le sol soit assez solide

IA d’entreprise au datacenter : pourvu que le sol soit assez solide

Vue aérienne du centre de données de Penta Infra, façade grise et installations sur le toit.

Pensez à l’IA non seulement sous la forme de grandes usines, mais aussi de clusters sur mesure pour les entreprises. Pour les héberger, les opérateurs de datacenters se livrent à une course afin de prévoir suffisamment d’espace au sol et de capacité adaptés. Mais les nouvelles technologies engendrent de nouveaux défis.

L’IA n’est pas l’apanage des hyperscalers. Les grandes usines d’IA d’acteurs comme Microsoft, Meta et Tesla ne représentent qu’un volet de l’histoire. Les clients enterprise envisagent eux aussi de plus en plus de déployer leur propre infrastructure d’IA. Cela entraîne de nouveaux défis et de nouvelles attentes, et pas seulement en raison de la densité croissante du matériel d’IA.

De nouveaux défis

En tant qu’opérateur européen de datacenters de colocation, Penta Infra doit y faire face. Harmen Laan, Head of Engineering chez Penta Infra, observe une évolution nette au fil des ans. « Penta Infra a débuté avec des datacenters relativement petits », raconte-t-il. « On parle de 700 kilowatts à un mégawatt. Aujourd’hui, nous étudions des conceptions de datacenters de 10 à 20 mégawatts. C’est un sacré bond en termes de puissance. »

Cette croissance suit le marché, qui passe d’un modèle plutôt conventionnel à une densité plus élevée, ce qui entraîne une demande de refroidissement liquide.

De l’exploration à la demande concrète

On en parle depuis un certain temps déjà, mais ces dernières années, la demande se concrétise. Au Benelux, le supercalculateur Sofia de la Vrije Universiteit Brussel (VUB) a été l’un des premiers clients de Penta Infra avec une application concrète. « Si l’on regarde le marché, nous constations au départ que l’IA de pointe était utilisée dans des instituts de recherche ou des organisations de calcul haute performance très spécifiques. Nous voyons aujourd’hui que l’IA sort de plus en plus et de façon plus concrète des cadres traditionnels, par exemple avec les Neoclouds et le GPU-as-a-Service », explique Harmen Laan.

Des clients existants sondent eux aussi depuis un moment les capacités du spécialiste des datacenters pour traiter des demandes liées à des projets d’IA. Cette exploration prudente s’est muée en commandes concrètes ces deux dernières années. Mais : « Les demandes HPC/IA émanent aussi de plus en plus d’utilisateurs finaux avec des déploiements plus modestes. Ce ne sont donc pas seulement des clients existants qui en font la demande. »

« Au début, on nous disait : nous voulons du liquid cooling, sans aucun détail précis. En répondant à la demande, il apparaissait souvent que l’application et l’ampleur n’étaient pas encore concrètes, pas plus que les dispositions à prendre », indique Harmen Laan, qui classe ce type de demandes comme exploratoires. « Aujourd’hui, les demandes sont beaucoup plus concrètes et débouchent aussi sur des commandes. »

Outre les grands acteurs qui explorent le marché, Harmen Laan voit de plus en plus de start-ups et de nouvelles entreprises à la recherche rapide de puissance et de capacité pour leurs environnements d’IA. La pénurie est désormais telle que cette quête devient visible jusque sur les réseaux sociaux. « On voit même des posts sur LinkedIn d’acteurs à la recherche de puissance. Je n’avais encore jamais vu cela », dit-il. Ceux qui ont réussi à mettre la main sur du matériel d’IA rare veulent pouvoir le déployer rapidement, car l’équipement est coûteux et s’amortit vite.

Vitesse et capacité, les atouts maîtres

Cette hâte explique d’emblée pourquoi le time to market est si crucial dans l’industrie des datacenters. « Quand un client arrive avec une demande, il faut pouvoir réagir vite », reconnaît Harmen Laan. Et là où un client IA ou HPC avait auparavant besoin de 350 ou 700 kilowatts, on demande aujourd’hui rapidement un à deux mégawatts.

Pour répondre à cette demande sans des mois d’attente, Penta Infra investit activement dans l’extension de son portefeuille de datacenters de colocation européens. Pour un opérateur de datacenters, l’enjeu est donc de prévoir la capacité avant que la demande n’arrive effectivement.

L’impact de l’IA sur le datacenter

Cela ne va pas de soi. L’infrastructure d’IA ne convient en effet pas à tous les datacenters. Harmen Laan pointe deux aspects de construction : la hauteur libre et la charge au sol. « Les machines d’IA ont une forte densité de composants et sont lourdes », explique-t-il. C’est vrai même pour les systèmes qui fonctionnent avec un refroidissement par air traditionnel.

Les machines d’IA ont une forte densité de composants et sont lourdes.

Harmen Laan, Head of Engineering Penta Infra

Pour du matériel plus avancé, un refroidissement liquide est parfois nécessaire. Le datacenter doit alors être entièrement équipé en conséquence. Il faut des conduites d’eau plus complexes et des dispositifs plus lourds pour les équipements installés au-dessus des racks. « Il faut disposer de beaucoup d’espace libre, tant sous qu’au-dessus des racks, pour pouvoir loger toute cette technique », souligne Harmen Laan.

Une installation de refroidissement n’en vaut d’ailleurs pas une autre. L’infrastructure qui sous-tend le refroidissement liquide n’est pas encore standardisée. « Il existe des lignes directrices de l’ASHRAE et de l’OCP, mais l’interface entre le bâtiment et le rack n’est pas encore définie de façon univoque. Il y a donc encore beaucoup de sur-mesure », indique Harmen Laan.

Dans la pratique, il observe beaucoup de sur-mesure dans la salle serveurs elle-même : la tuyauterie sous le sol, le raccordement électrique et le système de gestion du bâtiment doivent tous être adaptés spécifiquement. Un détail comme l’endroit où les conduites d’eau froide remontent dans la salle peut déjà constituer un obstacle.

Brownfield ou greenfield

Tous les datacenters ne conviennent donc pas aux workloads les plus modernes. Penta Infra s’est développé en partie par le rachat de datacenters existants, conçus pour une génération précédente de workloads IT. Ceux-ci doivent désormais être modernisés pour prendre en charge la prochaine génération de workloads IT.

« Dans la pratique, nous pouvons rendre l’IA possible même avec les limites des datacenters brownfield », précise néanmoins Harmen Laan.

Aujourd’hui, Penta Infra applique un mélange de rénovation et de construction neuve. Pour les nouveaux projets, le datacenter est toujours aménagé selon les normes les plus récentes afin de prendre en charge l’IA.

Lors des rénovations, certains espaces peuvent être transformés pour des workloads d’IA, mais souvent avec quelques limites. « Dans les bâtiments existants aussi, nous pouvons réaliser des espaces d’IA. Cela demande un peu plus de sur-mesure, mais c’est tout à fait faisable », précise Harmen Laan. La conversion d’un ancien site est donc possible, pour autant que la charge au sol, la hauteur libre et l’installation technique le permettent.

L’IA : une notion élastique

Qu’un datacenter convienne ou non à l’IA ne dépend pas seulement du site, mais aussi de ce que le client entend par IA. Les grandes usines d’IA avec leur matériel Nvidia ultramoderne ne sont pas la règle, mais l’exception.

« Beaucoup de gens oublient qu’il existe un très vaste espace entre les usines d’IA d’une part, et ce que les clients souhaitent dans la pratique d’autre part », insiste Harmen Laan. Alors que les hyperscalers visent ce qu’il y a de plus récent, les clients enterprise choisissent surtout en fonction de la disponibilité et de la rapidité de déploiement. L’échelle est également différente. Cela signifie que, dans la pratique, les solutions refroidies par air l’emportent parfois sur le refroidissement par eau. Les serveurs refroidis par air ne s’intègrent toutefois pas non plus sans autre dans n’importe quel datacenter.

Beaucoup de gens oublient qu’il existe un très vaste espace entre les usines d’IA d’une part, et ce que les clients souhaitent dans la pratique d’autre part.

Harmen Laan, Head of Engineering Penta Infra

Là où une configuration traditionnelle compte en moyenne 5 à 10 kW par rack et n’en utilise que 40 à 60 pour cent, dans les systèmes d’IA toutes les puces tournent en parallèle à pleine puissance. Harmen Laan : « Autrefois, un datacenter avait une charge stable dans le temps. Avec l’IA, cette stabilité disparaît. Quand un système d’IA se réveille, par exemple pour entraîner un modèle, il travaille soudain à pleine puissance. » Les datacenters et les installations de refroidissement doivent donc désormais pouvoir absorber ces pics.

L’intégration comme clé

Selon Harmen Laan, le plus grand changement apporté par l’IA concerne la manière de travailler. « Un rack conventionnel est plug-and-play », précise-t-il. Il en va autrement avec l’IA, et certainement avec le refroidissement liquide. « Le refroidissement liquide exige une interface avec l’installation technique du datacenter. Cela impose une collaboration entre plusieurs parties : le fournisseur de puces, les constructeurs de systèmes comme Dell, HPE, Supermicro et Lenovo, l’intégrateur et le client. Ce volet d’intégration et de conception intégrale, nous l’avons approfondi. »

Cette manière de travailler peut encore constituer un obstacle. « Nous conseillons aux clients de nous associer tôt, de préférence avant l’achat de leurs systèmes », explique Harmen Laan. « La clé du succès réside dans une réflexion intégrale, avec l’opérateur de datacenter, le client et l’intégrateur. » À terme, Harmen Laan s’attend toutefois à une forme de standardisation.

Capacité, flexibilité et souveraineté

Qu’est-ce qui pousse les organisations à installer leurs clusters d’IA chez un opérateur comme Penta Infra ? Penta Infra voit surtout le marché européen évoluer vers la consommation locale d’IA, et non vers l’entraînement de modèles au niveau d’OpenAI. « En Europe, on aura des usines d’IA centrales, américaines ou européennes, et à côté de cela des clusters construits localement dans des datacenters comme les nôtres », anticipe Harmen Laan.

Le thème de la souveraineté s’impose en outre de plus en plus : des clients recherchent une colocation relevant de la juridiction européenne, d’autant que les workloads d’IA traitent aussi des données sensibles. « Penta Infra est entièrement aux mains d’actionnaires européens », souligne Harmen Laan.

La maintenance devient elle aussi un point d’attention. Les systèmes d’IA demandent beaucoup d’entretien, et les serveurs équipés de GPU doivent régulièrement être retirés pour être entretenus. « Au cours des prochaines années, on mettra davantage l’accent sur les installations de maintenance sur site », conclut Harmen Laan. Les systèmes sont déployés maintenant, mais dans les années à venir, il faudra surtout qu’ils tournent.