Quatre façons d'optimiser votre centre de données pour s'adapter aux charges de travail d'IA

L'IA devrait transformer les centres de données de plusieurs manières, par exemple en modifiant le marché du travail des centres de données et en améliorant les opérations de surveillance et de réponse aux incidents des centres de données.

Cependant, le plus grand impact que l’intelligence artificielle est susceptible d’avoir sur les centres de données est de changer la façon dont les centres de données fonctionnent. Pour les entreprises qui souhaitent tirer pleinement parti de la technologie moderne de l'intelligence artificielle, l'infrastructure contenue dans le centre de données et la façon dont elle est gérée doivent changer.

Le développement de l'IA dans le centre de données entraînera une série de changements clés qui méritent d'être attendus. Cependant, l'impact exact reste à voir

Les exigences uniques de l'IA sur le centre de données

Pour évaluer l'impact de l'IA sur le centre de données, vous devez d'abord comprendre comment les charges de travail de l'IA se comparent à d'autres types de charges de travail dans les données. centre, comme l'hébergement d'applications standard. La différence entre

Bien que les charges de travail d'intelligence artificielle (IA) se présentent sous de nombreuses formes et ont des exigences différentes, la plupart ont les besoins uniques suivants :

• Nécessitent des ressources informatiques importantes, en particulier lors de la formation de modèles.
• Bénéficiez du fonctionnement sur du matériel nu, en particulier des serveurs ayant accès aux ressources GPU.
• Les taux de consommation des ressources peuvent fluctuer considérablement. Pendant la phase de formation, les charges de travail d'IA nécessitent beaucoup de ressources, mais une fois la formation terminée, la consommation de ressources diminue considérablement dans la plupart des cas jusqu'à ce que le modèle soit à nouveau entraîné.
• Un réseau à latence ultra-faible est nécessaire pour prendre des décisions et fournir des résultats en temps réel.

Bien sûr, il existe d'autres types de charges de travail qui peuvent avoir ces exigences. Par exemple, l’exécution d’applications et de services d’intelligence artificielle n’est pas le seul cas d’utilisation pouvant bénéficier des serveurs nus. Mais en général, les logiciels d'IA nécessitent plus des ressources ci-dessus que les autres types de charges de travail

Mise à niveau des centres de données pour l'IA

Pour optimiser les installations pour les charges de travail d'IA, de nombreux opérateurs de centres de données doivent apporter des modifications pour répondre aux besoins uniques de l'IA. Voici les principales mises à niveau du centre de données à cet égard.

1. Repenser ou remplacer les serveurs nus

Les machines virtuelles ont été la ressource d'infrastructure de choix pour l'hébergement des charges de travail au cours de la dernière décennie. Cependant, à mesure que la demande de matériel nu augmente pour les applications et services d'IA, de plus en plus d'opérateurs de centres de données peuvent se rendre compte de l'importance d'élargir leurs offres bare metal

D'une certaine manière, cela simplifie réellement les opérations du centre de données. Si vous exécutez des charges de travail sur du bare metal, vous vous retrouvez avec une pile d'hébergement moins complexe car vous ne disposez pas d'un mélange d'hyperviseurs et d'orchestrateurs de VM.

D'autre part, afin de faire évoluer l'infrastructure nue hébergeant les charges de travail, des mises à jour et des mises à niveau des serveurs d'hébergement et des racks du centre de données peuvent être nécessaires. Traditionnellement, le moyen le plus simple de configurer des serveurs dans le centre de données consistait à fournir de puissantes machines nues et à les attribuer à un nombre illimité de machines virtuelles en fonction des besoins de la charge de travail. Cependant, si les charges de travail doivent être exécutées directement sur du bare metal, davantage de serveurs peuvent être nécessaires pour isoler la charge de travail, ce qui signifie que le centre de données devra remplacer les serveurs haute puissance par des plus petits et mettre à jour les racks de serveurs en conséquence

2. Partager le GPU- serveurs activés

Les opérations quotidiennes des applications d'IA ne nécessitent pas nécessairement la prise en charge du GPU, bien que l'utilisation de serveurs GPU puisse être bénéfique lors de la formation aux charges de travail d'IA. Par conséquent, de nombreuses entreprises n'ont besoin que d'un accès temporaire à une infrastructure compatible GPU

Pour répondre aux besoins des entreprises en matière d'infrastructure GPU partagée, les opérateurs de centres de données devraient envisager de fournir des produits associés. Certaines entreprises n'ont besoin de serveurs équipés de GPU que dans quelques cas, de sorte que les opérateurs de centres de données peuvent temporairement fournir un accès aux ressources GPU via GPU-as-a-service, attirant ainsi mieux les entreprises ayant des besoins en matière de charge de travail d'IA

3. Solutions réseau améliorées

La plupart des centres de données d'entreprise ont déjà accès à une infrastructure réseau haute performance et fournissent des services d'interconnexion pour déplacer rapidement les données vers des installations externes. Cependant, pour exploiter pleinement la puissance de l'intelligence artificielle, les produits réseau des centres de données devront peut-être être plus puissants.

Les entreprises confrontées à des charges de travail d'intelligence artificielle doivent disposer de deux capacités clés : Premièrement, elles ont besoin de connexions réseau à large bande passante qui peuvent rapidement transférer de grandes quantités de données, est particulièrement important lors de la formation de modèles d’IA sur une infrastructure distribuée. Deuxièmement, le réseau doit fournir une faible latence, ce qui est crucial pour les applications et services d'IA qui cherchent à réaliser une exécution en temps réel

4. Une plus grande flexibilité des centres de données

Étant donné que les besoins en ressources des charges de travail d'IA fluctuent considérablement, les centres de données qui sont plus flexibles en termes de quantité d’infrastructures qu’ils peuvent prendre en charge et qui peuvent être nécessaires. L’IA peut également accroître la demande de services permettant aux entreprises de déployer des serveurs à la demande dans d’autres centres de données plutôt que de configurer ces serveurs elles-mêmes, car l’infrastructure à la demande constitue un bon moyen de tenir compte des fluctuations de la demande en ressources.

À cette fin, les opérateurs de centres de données qui souhaitent optimiser l'IA devraient envisager des produits qui rendent leurs installations plus flexibles. La combinaison de contrats à court terme et de services qui incluent plus qu'un simple espace rack où les clients peuvent construire leur propre infrastructure peut être attrayante pour les organisations qui ont besoin de déployer des charges de travail d'IA.

Conclusion

La révolution de l'IA est encore en cours, et il est trop tôt pour savoir exactement comment l'IA changera le fonctionnement des centres de données ou le type d'infrastructure déployé en leur sein. Mais ce qui est relativement certain, c’est que des changements tels que les serveurs compatibles GPU et des solutions plus flexibles pourraient devenir essentiels dans un monde centré sur l’IA. Les opérateurs de centres de données qui veulent une part de ce gâteau doivent s’assurer de mettre à jour leurs installations pour répondre aux exigences uniques des charges de travail d’IA.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!