Werden Single-Tenant-KI-Fabriken der neueste Trend in Rechenzentren?

Colocation-Rechenzentren sind in der Regel darauf ausgelegt, Dutzende oder sogar Hunderte von Kunden für unterschiedliche Anwendungen unterzubringen. Nvidia bietet jedoch ein einzigartiges Rechenzentrumsmodell, das auf die Ausführung spezifischer Anwendungen für einen einzelnen Kunden ausgerichtet ist.

Die Entstehung einer „Fabrik für künstliche Intelligenz“

Dieser neue Typ von Rechenzentrum unterscheidet sich von herkömmlichen Rechenzentren. Er konzentriert sich auf die Bereitstellung effizienterer und flexiblerer Infrastrukturdienste. Herkömmliche Rechenzentren hosten häufig mehrere Anwendungen und mehrere Mandanten, während sich neue Rechenzentren mehr auf die dynamische Zuweisung und Optimierung von Ressourcen konzentrieren, um den Anforderungen verschiedener Anwendungen und Mandanten gerecht zu werden. Das Design dieses neuen Rechenzentrums ist flexibler und intelligenter und kann die Ressourcenzuteilung in Echtzeit je nach Bedarf anpassen, wodurch die Gesamteffizienz und Leistung verbessert wird. Mit diesem innovativen Designkonzept werden

Diese neuen Rechenzentren hauptsächlich zum Hosten einer kleinen Anzahl von Anwendungen genutzt, die normalerweise von einem einzelnen Mieter genutzt werden. Sie sind für die Verarbeitung von Daten, das Training von Modellen und die Generierung von Token zur Generierung künstlicher Intelligenz verantwortlich. Wir nennen diese neuen Rechenzentren „KI-Fabriken“.

Fabriken für künstliche Intelligenz sind zu einem allgegenwärtigen Phänomen geworden. Ich glaube, dass fast jede große Region und jedes große Land ihre eigene KI-Cloud haben werden. Wir stehen also am Anfang einer Computertransformation, die einen wichtigen Wendepunkt darstellt.

Derzeit zeichnet sich dieser Trend allmählich in Ländern wie Indien, Schweden, Japan und Frankreich ab. Um eine effektive Nutzung künstlicher Intelligenz zu erreichen, müssen sprachliche und kulturelle Unterschiede zwischen den Ländern berücksichtigt werden. Auch die Nachfrage nach künstlicher Intelligenz variiert von Land zu Land, beispielsweise in Japan und Schweden. Aus diesem Grund sind KI-Rechenzentren und Einzelmandanten-KI-Fabriken in der Regel auf bestimmte Länder beschränkt.

Bewerten Sie den Umfang des Einsatzes künstlicher Intelligenz.

Bei großen Cloud-Dienstanbietern wie Amazon und Google und großen Hosting-Anbietern wie Equinix ist die Größe ihres Rechenzentrums normalerweise ziemlich groß, groß genug, um die Größe eines Fußballfeldes aufzunehmen. Angesichts des hohen Stromverbrauchs der Nvidia Hopper-Prozessoren werden diese KI-Fabriken in ihrer Größe mit McDonald's-Restaurants vergleichbar sein.

Für Rechenzentrums-Racks ist in der Regel ein Stromverbrauch zwischen 6 kW und 8 kW vorgesehen. Wenn jedoch ein für die Ausführung von LLM optimierter Server erforderlich ist, beträgt der Stromverbrauch eines einzelnen Servers etwa 11 kW. Dies entspricht dem durchschnittlichen Stromverbrauch von etwa 14 Universalservern.

In diesem Fall kann in einem typischen Rechenzentrum nur eine begrenzte Anzahl von GPU-Servern wie DGXH100 betrieben werden. Wenn Sie über ein 1-MW-Rechenzentrum verfügen, können Sie darin etwa 50 DGXH100-Server bereitstellen. Die Bereitstellung von KI im großen Maßstab für eine große Anzahl gleichzeitiger Benutzer erfordert große Cluster solcher Server. Das bedeutet, dass ein typisches Rechenzentrum nur die Bedürfnisse einer begrenzten Anzahl von Kunden und höchstwahrscheinlich nur eines einzigen Kunden erfüllen kann.

Die Zukunft der KI-Fabriken

Die kostengünstigste Option zum Entwerfen einer Einzweck-GPU-Umgebung wie einer KI-Fabrik besteht darin, ein dediziertes Rechenzentrum zu bauen, es zu entwerfen und zu positionieren, wobei der Schwerpunkt auf höherer Dichte und Flüssigkeit liegt Kühlung Am besten Standort für KI-Unternehmen.

Der Stromverbrauch von KI-Clustern wird ein begrenzender Faktor in Rechenzentren mit einer großen Anzahl von Servern sein, und es ist wahrscheinlich, dass einige dieser Rechenzentren ausschließlich auf KI ausgerichtet sein werden. Auch Sicherheits- und Regulierungsrahmen rund um die KI könnten diesen Trend vorantreiben. Das Wachstum der generativen und allgemeinen künstlichen Intelligenz wirft mehrere Sicherheits- und Compliance-Probleme auf, sodass sich Unternehmen möglicherweise dafür entscheiden, solche Workloads in hochsicheren, speziell dafür errichteten Einrichtungen auszuführen.

Fabrik und Rechenzentrum für künstliche Intelligenz

Da die Leistungsdichte künstlicher Intelligenz fünf- bis zehnmal so hoch ist wie die von herkömmlichen Rechenzentren, wird die Größe von Fabriken für künstliche Intelligenz nicht die Größe traditioneller Rechenzentren erreichen, die über eine Fläche verfügen von mehr als hunderttausend Quadratmetern.

Ein weiterer Unterschied zwischen traditionellen Rechenzentren und KI-Fabriken ist ihr Standort. Während riesige Rechenzentren in der Regel an abgelegenen Standorten in der Nähe erneuerbarer Energiequellen errichtet werden, können KI-Fabriken in Stadtzentren oder Ballungsräumen sowie in bestehenden Anlagen mit großen Mengen an verfügbarem Strom errichtet werden.

Es gibt viele Büro- und Einzelhandelsflächen, die derzeit nicht ausreichend genutzt werden, und was sehr, sehr attraktiv wird, ist ein verlassenes Gebäude oder ein nicht ausreichend genutzter städtischer Raum oder ein Teil eines alten Lagerhauses mitten im Nirgendwo, das bereits Strom hat, wo Sie Sie können einige KI-Geräte und etwas Flüssigkeitskühlung ablegen und anschließen.

Während es unmöglich ist, die Zukunft der Rechenzentrumsbranche vorherzusagen, deutet das schnelle Wachstum der künstlichen Intelligenz darauf hin, dass KI-Fabriken bald zu einer Notwendigkeit werden könnten, da Betreiber digitaler Infrastrukturen sich bemühen, der wachsenden Nachfrage gerecht zu werden.