L’IA impacte aussi les centres de données

Il n’y en a plus que pour l’IA dans tous les domaines de l’informatique. Dans le secteur des centres de données en particulier, tout le monde est sur le pont pour répondre aux nouvelles exigences en matière de connexions, de consommation d’énergie et de refroidissement inhérentes à l’IA. (Frans Godden)

Partout dans le monde, on travaille d’arrache-pied pour construire assez de centres de données pour répondre à l’explosion massive des applications d’IA. Des mégacentres de données sortent de terre un peu partout, souvent détenus par des géants de la tech comme Google, Microsoft et autres Amazon. Les investissements sont colossaux, non seulement en termes de puissance de calcul, mais aussi et surtout en alimentation électrique nécessaire pour faire tourner tous ces ordinateurs. Dans son rapport ‘The Energy and AI Report’, l’Agence internationale de l’Énergie a calculé qu’en 2030, les centres de données consommeront plus d’énergie dans le monde que l’ensemble du Japon aujourd’hui. Plus de 40% de tous les nouveaux centres de données seront alors presque exclusivement affectés aux tâches de l’IA.

Densité du trafic

Mais ce n’est pas tout. Au début de cette année, le spécialiste des réseaux Ciena a publié, en collaboration avec le cabinet d’études de marché Censuswide, une étude sur un aspect apparemment négligé de l’IA et des centres de données, à savoir les réseaux qui doivent relier tous ces centres de données. Les experts s’attendent à ce que la bande passante nécessaire à ces connexions soit multipliée par six au cours des cinq prochaines années, simplement parce que l’IA impose d’autres critères aux réseaux existants. Les applications classiques génèrent surtout du trafic nord-sud entre les clients et les serveurs, mais les applications d’IA (en particulier lorsqu’elles impliquent une formation LLM (Large Language Model)) produisent massivement un trafic est-ouest entre les clusters GPU dans le centre de données. Cela signifie que les réseaux doivent non seulement disposer d’une bande passante beaucoup plus importante, mais aussi d’une latence (retards) particulièrement faible, avec une capacité d’adaptation dynamique à la hausse ou à la baisse. En effet, pour les tâches confiées à l’IA, le traitement des données est réparti entre des dizaines, voire des centaines de GPU qui doivent être constamment synchronisés pour pouvoir effectuer même une seule opération. Les mouvements sont donc très nombreux. C’est pourquoi on s’attend globalement à ce que les opérations d’IA représentent jusqu’à 30% de tout le trafic des centres de données dès cette année.

À première vue, l’interface classique du centre de données vers le monde extérieur ne changera pas beaucoup, et la technologie Ethernet continuera sans doute à dominer le front-end. Mais derrière cette façade familière, un nouveau réseau plus spécialisé a vu le jour, entièrement dédié aux tâches de l’IA qui imposent des exigences complètement différentes en matière de hardware. Ainsi, pour toutes ces synchronisations, le réseau back-end devra prendre en charge des bandes passantes de 800 Gbps à 1,6 Tbps par liaison. C’est pourquoi les opérateurs modernisent partout leurs réseaux avec des commutateurs, des routeurs et des câbles en fibre optique ultraperformants afin d’en faire un environnement intelligent, flexible et robuste, capable de supporter toutes les innovations de l’IA.

Attention à la surchauffe

Mais l’IA a aussi un autre impact, totalement différent, sur les centres de données : pour fonctionner de manière optimale, les ordinateurs ont besoin d’être refroidis, et l’eau est le premier moyen auquel on pense. Lorsque l’Union européenne a annoncé en avril dernier son intention de tripler au moins la capacité de ses centres de données au cours des cinq prochaines années afin de répondre à la demande croissante en matière d’IA, la réaction de l’Europe du Sud a été immédiate, là où près d’un tiers de la population vit dans des régions où le manque d’eau est permanent. Un rapport récent de S&P Global, ‘Beneath the surface: Water stress in data centers’, mentionne en effet surtout le Moyen-Orient, la Grèce, l’Espagne, le Chili, le Pérou et le Mexique, mais étonnamment aussi la Belgique, comme les régions les plus susceptibles d’être confrontées à des problèmes d’approvisionnement en eau, et où les mégacentres de données pourraient donc constituer une source de stress supplémentaire. L’EUDCA, l’Association européenne des Centres de données, est donc à la recherche d’eau non potable susceptible d’être réutilisée dans d’autres processus industriels, tels que le refroidissement des centres de données.

D’ailleurs, les exploitants eux-mêmes cherchent des solutions. L’été dernier, Microsoft a ainsi annoncé un nouveau concept de centre de données qui devrait optimiser la charge de travail de l’IA, sans nécessiter d’eau pour le refroidissement. Cela permettrait d’économiser plus de 125 millions de litres par an et par centre de données grâce à une technologie (pas tout à fait) nouvelle qui recycle l’eau dans un circuit fermé. Une fois que le système est entièrement rempli au démarrage, il envoie constamment son eau de refroidissement vers les serveurs sans devoir être rempli à nouveau.

Vers les pôles

Mais l’ensemble du processus de refroidissement pose évidemment un autre défi déjà mentionné plus haut : l’électricité. Selon l’Agence internationale de l’Énergie, alors que les serveurs représentent environ 60% de la consommation électrique dans les centres de données, et que les systèmes de réseau et de stockage en consomment chacun 5%, les systèmes de refroidissement exigeraient de 7 à 30% de l’énergie totale, en fonction de leur efficacité. Près de 40% des centres de données utiliseraient le refroidissement par l’eau, mais de nombreux autres utilisent encore le refroidissement traditionnel par climatisation/ventilation, souvent très énergivore, en particulier dans les pays chauds. C’est pourquoi les exploitants de centres de données ont recherché activement des alternatives, telles que le refroidissement par immersion, qui consiste à plonger les serveurs dans des liquides non conducteurs. Un procédé qui s’avère néanmoins coûteux et complexe. Le procédé le plus simple (et aussi le moins cher) reste le refroidissement à l’air libre, mais il n’est malheureusement possible que dans des régions où les températures sont fraîches, et il est donc surtout réservé à l’Europe du Nord.

Il y a aussi le problème des centres de données existants. Nul ne renoncera volontiers aux investissements souvent très lourds réalisés dans un centre de données pour répondre aux nouvelles exigences de l’IA, mais il faut pourtant pouvoir intégrer toutes ces nouvelles technologies dans une infrastructure qui n’a en réalité jamais été conçue pour cela. Les systèmes hérités, généralement basés sur des technologies déjà obsolètes, sont souvent difficiles à adapter et trop peu flexibles pour traiter les énormes volumes de données de l’IA. Il s’agit donc de trouver le juste équilibre entre rester pleinement opérationnel et adapter malgré tout les systèmes aux nouveaux matériels et normes de réseau de l’IA.