摩爾線程誇娥智算中心擴展至萬卡規模,具備萬 P 級浮點運算能力

WBOY
發布: 2024-07-17 05:55:45
原創
385 人瀏覽過

本站 7 月 3 日消息,摩爾線程今日宣布,其 AI 旗艦產品誇娥(KUAE)智算集群解決方案從當前的千卡級別擴展至萬卡規模。摩爾線程誇娥萬卡智算集群,以全功能GPU 為底座,打造能夠承載萬卡規模、具備萬P 級浮點運算能力的國產通用加速計算平台,專為萬億參數級別的複雜大模型訓練而設計。

摩尔线程夸娥智算中心扩展至万卡规模,具备万 P 级浮点运算能力

誇娥萬卡智算解決方案具備以下核心特性:

萬卡萬P:誇娥智算集群實現單集群規模超萬卡,浮點運算能力達到10Exa-Flops,達到PB 級的超大顯存總容量、每秒PB 級的超高速卡間互聯總頻寬和每秒PB 級超高速節點互聯總頻寬。

長穩訓練:摩爾線程誇娥萬卡集群平均無故障運行時間超過 15 天,最長可實現大模型穩定訓練 30 天以上,週均訓練有效率在 99% 以上,遠超行業平均水平。

高 MFU:誇娥萬卡集群在系統軟體、框架、演算法等層面上一系列優化,實現大模型的高效率訓練,MFU(評估大模型訓練效率的通用指標)最高可達 60%。

生態友善:可加速 LLM、MoE、多模態、Mamba 等不同架構、不同模態的大模型。基於 MUSA 程式語言、完整相容 CUDA 能力和自動化遷移工具 Musify,加速新模型「Day0」級遷移。

本站獲悉,摩爾線程將開展三個萬卡集群項目,分別為:

  • 青海零碳產業園萬卡集群項目
  • 青海高原誇娥萬卡集群項目廣闊西東盟萬卡集群項目

以上是摩爾線程誇娥智算中心擴展至萬卡規模,具備萬 P 級浮點運算能力的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
來源:ithome.com
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板