Heim > Hardware-Tutorial > Hardware-Neuigkeiten > NVIDIA nutzt KI-Modelle mit Billionen Parametern und bringt den Blackwell-basierten Supercomputer DGX SuperPOD auf den Markt

NVIDIA nutzt KI-Modelle mit Billionen Parametern und bringt den Blackwell-basierten Supercomputer DGX SuperPOD auf den Markt

WBOY
Freigeben: 2024-03-20 09:10:02
nach vorne
1233 Leute haben es durchsucht

Laut Nachrichten dieser Website vom 19. März hat NVIDIA auf der heute stattfindenden GTC-Entwicklerkonferenz den DGX SuperPOD für die Verarbeitung von Billionen-Parameter-KI-Modellen vorgestellt, der eine stabile Leistung für extrem große generative KI-Trainings- und Inferenz-Workloads bietet.

驾驭万亿参数 AI 模型,英伟达推出基于 Blackwell 的 DGX SuperPOD 超算

Diese Seite hat aus Berichten erfahren, dass der neue DGX SuperPOD eine neue hocheffiziente wassergekühlte Rack-Architektur verwendet und mit dem NVIDIA DGX GB200-System ausgestattet ist. Es bietet 11,5 Exaflops Super-Rechenleistung mit künstlicher Intelligenz und 240 Exaflops Terabytes an Geschwindigkeit bei FP4-Speicher können Kunden durch das Hinzufügen von Racks weiter ausbauen.

Jedes DGX GB200-System verfügt über 36 NVIDIA GB200-Beschleunigerkarten, darunter 36 NVIDIA Grace-CPUs und 72 NVIDIA Blackwell-GPUs, die über NVIDIA NVLink der fünften Generation mit einem Supercomputer verbunden sind.

Die GB200-Beschleunigerkarte bietet im Vergleich zur NVIDIA H100 Tensor Core GPU eine bis zu 30-mal bessere Leistung bei Inferenz-Workloads mit großen Sprachmodellen.

DGX SuperPOD enthält 8 oder mehr DGX GB200-Systeme, die über NVIDIA Quantum InfiniBand verbunden sind, und kann auf Zehntausende GB200-Beschleunigerkarten erweitert werden.

Die derzeit von NVIDIA für Kunden bereitgestellte Standardkonfiguration umfasst 576 Blackwell-GPUs, die über NVLink mit 8 DGX GB200-Systemen verbunden sind.

Jensen Huang, Gründer und CEO von NVIDIA, sagte:

Der Supercomputer NVIDIA DGX für künstliche Intelligenz ist die Fabrik der Revolution in der Branche der künstlichen Intelligenz. Der neue DGX SuperPOD kombiniert die neuesten Fortschritte in den Bereichen NVIDIA Accelerated Computing, Networking und Software, um es jedem Unternehmen, jeder Branche und jedem Land zu ermöglichen, ihre eigene künstliche Intelligenz zu verfeinern und zu generieren.

Das obige ist der detaillierte Inhalt vonNVIDIA nutzt KI-Modelle mit Billionen Parametern und bringt den Blackwell-basierten Supercomputer DGX SuperPOD auf den Markt. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Verwandte Etiketten:
Quelle:ithome.com
Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn
Beliebte Tutorials
Mehr>
Neueste Downloads
Mehr>
Web-Effekte
Quellcode der Website
Website-Materialien
Frontend-Vorlage