Les usines d'IA à locataire unique deviendront-elles la dernière tendance des centres de données ?

Les centres de données de colocation sont généralement conçus pour accueillir des dizaines, voire des centaines de clients pour différentes applications. Cependant, Nvidia propose un modèle de centre de données unique dédié à l'exécution d'applications spécifiques pour un seul client.

L'émergence de « l'usine d'intelligence artificielle »

Ce nouveau type de centre de données est différent des centres de données traditionnels et se concentre sur la fourniture de services d'infrastructure plus efficaces et plus flexibles. Les centres de données traditionnels hébergent souvent plusieurs applications et plusieurs locataires, tandis que les nouveaux centres de données se concentrent davantage sur l'allocation dynamique et l'optimisation des ressources pour répondre aux besoins des différentes applications et locataires. La conception de ce nouveau centre de données est plus flexible et intelligente, et peut ajuster l'allocation des ressources en temps réel en fonction de la demande, améliorant ainsi l'efficacité et les performances globales. Avec ce concept de conception innovant,

Ces nouveaux centres de données sont principalement utilisés pour héberger un petit nombre d'applications, généralement utilisées par un seul locataire. Ils sont responsables du traitement des données, de la formation des modèles et de la génération de jetons pour produire de l'intelligence artificielle. Nous appelons ces nouveaux centres de données « usines IA ».

Les usines d’intelligence artificielle sont devenues un phénomène omniprésent. Je pense que presque toutes les grandes régions disposeront de leur propre cloud d’IA, tout comme chaque grand pays. Nous sommes donc au début d’une transformation informatique, ce qui constitue un point d’inflexion important.

Actuellement, cette tendance émerge progressivement dans des pays comme l'Inde, la Suède, le Japon et la France. Pour parvenir à une utilisation efficace de l’intelligence artificielle, les différences linguistiques et culturelles entre les pays doivent être prises en compte. La demande en intelligence artificielle varie également d’un pays à l’autre, comme au Japon et en Suède. Pour cette raison, les centres de données d’IA et les usines d’IA à locataire unique ont tendance à être limités à des pays spécifiques.

Évaluez l'ampleur du déploiement de l'intelligence artificielle

Les grands fournisseurs de services cloud tels qu'Amazon et Google et les principaux fournisseurs d'hébergement tels qu'Equinix, la taille de leur centre de données est généralement assez grande, suffisamment grande pour accueillir la taille d'un terrain de football. Compte tenu de la forte consommation d'énergie des processeurs Nvidia Hopper, ces usines d'IA seront comparables en taille aux restaurants McDonald's.

Les racks de centres de données prévoient généralement une consommation électrique comprise entre 6 kW et 8 kW. Cependant, si un serveur optimisé pour exécuter LLM est requis, la consommation électrique d'un seul serveur est d'environ 11 kW. Cela équivaut à la consommation électrique moyenne d'environ 14 serveurs à usage général.

Dans ce cas, seul un nombre limité de serveurs GPU tels que le DGXH100 peut être exécuté dans un centre de données typique. Si vous disposez d'un centre de données de 1 MW, vous pouvez y déployer environ 50 serveurs DGXH100. Le déploiement de l’IA à grande échelle auprès d’un grand nombre d’utilisateurs simultanés nécessitera de grands clusters de ces serveurs. Cela signifie qu’un centre de données typique ne peut répondre qu’aux besoins d’un nombre limité de clients, et très probablement d’un seul client.

L'avenir des usines IA

L'option la plus rentable pour concevoir un environnement GPU à usage unique tel qu'une usine IA est de construire un centre de données dédié, conçu et positionné avec une densité plus élevée et un refroidissement liquide comme objectif. Dans le meilleur emplacement pour les entreprises d'IA.

La consommation électrique des clusters d'IA sera un facteur limitant dans les centres de données comportant un grand nombre de serveurs, et il est probable que certains de ces centres de données soient dédiés à l'IA. Les cadres de sécurité et réglementaires entourant l’IA peuvent également alimenter cette tendance. La croissance de l’intelligence artificielle générative et générale soulève plusieurs problèmes de sécurité et de conformité, de sorte que les entreprises peuvent décider d’exécuter ces charges de travail à partir d’installations spécialement conçues et hautement sécurisées.

Usine d'intelligence artificielle et centre de données

Étant donné que la densité de puissance de l'intelligence artificielle est cinq à dix fois supérieure à celle des centres de données traditionnels, l'échelle des usines d'intelligence artificielle n'atteindra pas la taille des centres de données traditionnels, qui ont une superficie de plus de cent mille pieds carrés.

Une autre différence entre les centres de données traditionnels et les usines d'IA est leur emplacement. Alors que les centres de données géants ont tendance à être construits dans des endroits éloignés à proximité de sources d’énergie renouvelables, les usines d’IA peuvent être construites dans les centres-villes ou les zones métropolitaines et dans des installations existantes disposant de grandes quantités d’énergie disponible.

Il y a beaucoup d'espaces de bureaux et de commerces qui sont sous-utilisés en ce moment et ce qui devient très, très attrayant, c'est un bâtiment abandonné ou un espace urbain sous-utilisé ou une partie d'un ancien entrepôt au milieu de nulle part qui a déjà l'électricité, où vous peut déposer certains équipements d'IA, un peu de refroidissement liquide et le brancher.

Bien qu'il soit impossible de prédire l'avenir du secteur des centres de données, la croissance rapide de l'intelligence artificielle suggère que les usines d'IA pourraient bientôt devenir une nécessité alors que les opérateurs d'infrastructures numériques se démènent pour répondre à la demande croissante.