首頁 > 科技週邊 > 人工智慧 > 華人大神出手 AMD顯示卡AI「煉丹」能力追上來了:RTX 4090八成性能

華人大神出手 AMD顯示卡AI「煉丹」能力追上來了:RTX 4090八成性能

PHPz
發布: 2023-08-16 22:25:01
轉載
1503 人瀏覽過

快科技8月13日消息,除了玩遊戲,NVIDIA的顯示卡還在AI加速上遙遙領先,不僅科技巨頭都在搶A100/H100等顯示卡,GeForce遊戲卡也是普通人搞AI煉丹的選擇, AMD顯示卡在這方面落後不少。

好消息是AMD現在也能追上來了,深度學習領域的華人大神、OctoML CTO陳天奇帶領團隊在AMD顯示卡上做出了大模型推理的方案,這意味著業界又有NVIDI以外的選擇,不用為N卡搶破頭、加價而困擾了。

华人大神出手 AMD显卡AI“炼丹”能力追上来了:RTX 4090八成性能

根據他的最佳化演算法,在Llama2的7B和13B大模型中,用RX 7900 XTX顯示卡也能跑出讓人滿意的性能,性能已經達到了RTX 4090顯示卡82%或RTX 3090 Ti顯示卡的94%水準。

华人大神出手 AMD显卡AI“炼丹”能力追上来了:RTX 4090八成性能

不只性能追上來了,AMD顯示卡的性價比也要高很多,RX 7900 XTX跟其他兩款顯示卡都是24GB顯存,但只要999美元,RTX 4090、RTX 3090 Ti分別是1599、1999元,價格高出60-100%。

當然,RX 7900 XTX現在的價格早就鬆動了,實際售價比999美元便宜不少,而N卡價格一直堅挺。

华人大神出手 AMD显卡AI“炼丹”能力追上来了:RTX 4090八成性能

究其根底,A卡在AI煉丹能力上的提升,尤其是RX 7900 XTX這樣的遊戲卡能有質變,還是AMD最近在ROCm軟體生態上的改進,以前後者對遊戲卡及Win平台的支援很差,4月開始不僅支援Windows系統,也加入了對RX 7900及工作站顯示卡的支援。

同時AMD也發表了ROCm HIP SDK,讓開發者將針對CUDA平台開發的程式碼輕鬆遷移到AMD平台,這有是陳天奇等大神可以在AMD顯示卡上推動AI能力提升的基礎。

以上是華人大神出手 AMD顯示卡AI「煉丹」能力追上來了:RTX 4090八成性能的詳細內容。更多資訊請關注PHP中文網其他相關文章!

來源:sohu.com
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板