單租戶人工智慧工廠會成為最新的資料中心趨勢嗎？

託管資料中心通常設計用來容納數十甚至數百個客戶的不同應用程式。不過，英偉達提供了一種獨特的資料中心模式，該資料中心專門為單一客戶運行特定應用程式。

「人工智慧工廠」的出現

這種新型的資料中心與傳統資料中心不同，它專注於提供更有效率、更靈活的基礎設施服務。傳統資料中心往往承載多個應用程式和多個租戶，而新型資料中心更注重資源的動態分配和最佳化，以滿足不同應用程式和租戶的需求。這種新型資料中心的設計更加靈活和智能，能夠根據需求即時調整資源分配，提高整體效率和效能。透過這種創新的設計理念，

這些新的資料中心主要用於託管少量應用程序，通常由單一租戶使用。它們負責處理資料、訓練模型，並產生令牌以產生人工智慧。我們將這些新型資料中心稱為「人工智慧工廠」。

人工智慧工廠已經成為普遍存在的現象。我相信幾乎所有主要地區都會擁有自己的人工智慧雲，每個主要國家也會如此。因此，我們正處於運算轉型的起點，這是一個重要的轉捩點。

目前，這種趨勢在印度、瑞典、日本和法國等國家逐漸顯現。要實現人工智慧的有效運用，必須考慮各國的語言和文化差異。不同國家對人工智慧的需求也因地而異，例如日本和瑞典。正因為如此，人工智慧資料中心和單租戶人工智慧工廠往往局限於特定國家。

評估部署人工智慧的規模

大型雲端服務供應商如Amazon和Google以及主要的主機託管供應商如Equinix，他們的資料中心規模通常相當龐大，大到足以容納一個足球場的大小。考慮到Nvidia Hopper處理器的高功耗，這些人工智慧工廠的規模將與麥當勞餐廳相提並論。

資料中心機架通常預算功耗在6kW至8kW之間。然而，如果需要針對運行LLM進行最佳化的伺服器，單一伺服器的功耗大約為11kW。這相當於大約14台通用伺服器的平均功耗。

在這種情況下，在典型的資料中心中只能運行有限數量的GPU伺服器，例如DGXH100，如果你有1MW的資料中心，可以在裡面部署大約50台DGXH100伺服器。要將人工智慧大規模部署到大量並髮用戶，將需要大型此類伺服器叢集。這意味著典型的資料中心只能滿足有限數量的客戶的需求，而且很可能只能滿足單一客戶的需求。

人工智慧工廠的未來

為人工智慧工廠等單一用途GPU環境設計最具成本效益的方案是建立專用資料中心，以更高的密度和液體冷卻為設計重點，並將其位置定位在最適合人工智慧企業的地點。

人工智慧叢集的功耗將成為資料中心擁有大量伺服器的限制因素，而其中一些資料中心很可能專門用於人工智慧。圍繞人工智慧的安全和監管框架也可能推動這一趨勢。生成式人工智慧和通用人工智慧的發展引發了一些安全和合規性問題，因此企業可能會決定從高度安全的專用設施運行此類工作負載。

人工智慧工廠與資料中心

由於人工智慧功率密度是傳統資料中心的五到十倍，人工智慧工廠的規模不會達到傳統資料中心的大小，傳統資料中心的面積已超過一百萬平方英尺。

傳統資料中心和人工智慧工廠之間的另一個區別是它們的位置。巨型資料中心往往建在再生能源旁的偏遠地區，而人工智慧工廠則可以建在市中心或大城市地區以及擁有大量可用電力的現有設施中。

目前，有大量辦公室和零售空間未被充分利用，變得非常非常有吸引力的是一座廢棄的建築或未充分利用的城市空間，或者是一個偏僻的舊倉庫的一部分，它們已經擁有電力，可以在其中放下一些人工智慧設備，一些液體冷卻並插入電源去。

儘管無法預測資料中心產業的未來，但人工智慧的快速成長暗示，隨著數位基礎設施營運商爭先恐後地滿足不斷增長的需求，人工智慧工廠可能很快就會成為必需品。