Google最近推出了一個名為TpuGraphs的模型訓練資料集,主要用於優化編譯器和提升人工智慧深度學習能力
▲ 圖片來源 谷歌部落格(下同)
Google指出,目前的AI深度學習系統通常使用TensorFlow、JAX、PyTorch等框架進行訓練。這些框架主要透過底層編譯器的啟發式演算法來最佳化模型。在相關的編譯器中應用"學習成本模型"可以改善編譯器的效能,並提升最終輸出模型的深度學習能力
Google推出的 TpuGraphs 資料集被IT之家獲悉,它是一款「學習成本模型」。這個資料集主要包含了各種開源深度學習程序,涵蓋了多種熱門模型架構,例如 ResNet、EfficientNet、Mask R-CNN 和 Transformer 等
Google聲稱,與業界競品相比,Google的 TpuGraphs 資料集在「平均圖大小」方面大了 770 倍,在「圖數量」方面增加了 25 倍。 Google聲稱,應用 TpuGraphs 資料集可以有效解決最終輸出模型的「可擴展性」、「效率」和「品質」等問題
除此之外,Google還推出了一種名為GST(Graph Segment Training)的模型訓練方法,該方法允許在記憶體有限的裝置上訓練大型圖神經網路。據稱,這種方法可以將模型的「端到端訓練時間」縮短三倍,有效提高模型訓練效率
以上是Google推出 TpuGraphs 訓練資料集,提升 AI 模型的深度學習能力的詳細內容。更多資訊請關注PHP中文網其他相關文章!