首頁 > 硬體教學 > 硬體新聞 > 駕馭萬億參數 AI 模型,英偉達推出基於 Blackwell 的 DGX SuperPOD 超算

駕馭萬億參數 AI 模型,英偉達推出基於 Blackwell 的 DGX SuperPOD 超算

WBOY
發布: 2024-03-20 09:10:02
轉載
1213 人瀏覽過

本站3 月19 日消息,英偉達在今天召開的GTC 開發者大會上,推出了用於處理萬億參數AI 模型的DGX SuperPOD,為超大規模的生成式AI 訓練和推理工作負載提供穩定的性能輸出。

驾驭万亿参数 AI 模型,英伟达推出基于 Blackwell 的 DGX SuperPOD 超算

本站從報道中獲悉,全新的DGX SuperPOD 採用全新的高效能水冷機架式架構,搭載英偉達DGX GB200 系統,在FP4 精度下提供11.5 exaflops 的人工智慧超級運算能力和240 terabytes 的快速內存,客戶可透過增加機架進一步擴展。

每組 DGX GB200 系統擁有 36 個英偉達 GB200 加速卡,其中包括 36 個英偉達 Grace CPU 和 72 個英偉達 Blackwell GPU,透過第五代英偉達 NVLink 連接成一台超級電腦。

與英偉達™(NVIDIA®)H100 Tensor Core GPU 相比,GB200 加速卡在大型語言模型推理工作負載的效能可提升高達 30 倍。

DGX SuperPOD 包含 8 套以上 DGX GB200 系統,透過英偉達 Quantum InfiniBand 連接,可擴充至數萬片 GB200 加速卡。

英偉達目前為客戶提供的預設配置包含 576 個 Blackwell GPU,透過 NVLink 連接 8 套 DGX GB200 系統。

英偉達公司創辦人兼執行長黃仁勳表示:

英偉達 DGX 人工智慧超級電腦是人工智慧產業革命的工廠。全新的 DGX SuperPOD 結合了英偉達加速運算、網路和軟體的最新進展,讓每個公司、產業和國家都能完善和產生自己的人工智慧。

以上是駕馭萬億參數 AI 模型,英偉達推出基於 Blackwell 的 DGX SuperPOD 超算的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
來源:ithome.com
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板