首頁 > 科技週邊 > 人工智慧 > 清華團隊推出新平台:用去中心化AI打破算力荒

清華團隊推出新平台:用去中心化AI打破算力荒

WBOY
發布: 2024-04-17 18:16:14
轉載
640 人瀏覽過

最近,一則數據點出了AI領域算力需求的驚人增長——

根據業內專家的預估,OpenAI推出的Sora在訓練環節大約需要約4200-10500張NVIDIA H100上訓練1個月,並且當模型生成到推理環節以後,計算成本還將迅速超過訓練環節。

照這個趨勢發展下去,GPU的供給或許很難滿足大模型持續的需求。

不過,最近海外有一個新動向,可能會為即將到來的「算力荒」提供新的解決思路-去中心化AI。

三週前,3月23日,Stability AI突然發布一項公告,宣佈公司CEO Emad Mostaque辭職。 Emad Mostaque自己透露了接下來的動向,要追求「去中心化AI的夢想」。

然而,由於去中心化網路的不確定性、不穩定性等技術上的痛點難以解決,上一波去中心化AI很難在大模型時代真正落地。

最近,量子位元發現,一個在海外創業的清華團隊聚焦去中心化AI,創造了NetMind.AI。 2023年,NetMind發布了一份白皮書,詳細介紹了去中心化算力共享平台NetMind Power。這個平台要解決的,正是去中心化AI在大模式時代落地的痛點。

一、讓每位開發者都用得起GPU

2021年9月,NetMind.AI啟動了一項名為NetMind Power的去中心化運算平台專案。

全球有大量的親置算力:傳統資料中心的親置算力,中小型企業擁有的沒有充分利用的算力以及個人擁有的零散GPU。這些算力要麼被閒置,要麼被用來做遊戲、影片渲染。同時,AI算力又越發緊缺,AI研究人員、中小型企業尤其是AI新創公司、參與AI專案的傳統公司都受困於AI算力的高成本和高門檻。

NetMind Power創造了一個致力於中心化的運算網絡,利用NetMind研發的核心技術,撬動全球算力資源,既為AI產業提供好用又用得起的AI算力服務。

清華團隊推出新平台:用去中心化AI打破算力荒△NetMind Power是取得算力的經濟之選,為使用者提供高效且實惠的運算資源解決方案。


目前,NetMind Power已經收集了數千張顯示卡,包括H100,A100,4090,3090。

該平台的四大亮點:

1. 去中心化動態叢集-在極度不確定的算力上打造可靠且高效的AI應用

Power平台利用基於P2P的動態分散式叢集技術,結合其獨特的路由、聚類演算法及神經網絡,將成千上萬個運算節點編織成強大的網路叢集架構,專門服務AI應用等高層需求。

當使用者在Power平台上進行AI相關操作,如模型訓練、微調或推理時,Power的去中心化網路能夠在極短時間內,在全球各地的運算節點中,透過最優化演算法快速調配最適合的運算資源,為用戶提供服務。

同時,Power為B端用戶提供動態叢集策略,可以在幾秒鐘內智慧進行節點重組和配置,提供可自訂,高擴展和高冗餘的專屬叢集。

2. 完整的AI生態:降低算力使用門檻,擴大去中心化網絡應用場景

借助NetMind多年在AI領域的積累,Power網絡在基礎算力服務之外,也將囊括開源模型庫、AI資料集、資料與模型加密等AI生態基座,以及模型訓練、推理、部署等全方位服務,打造MaaS (Model as a Service) 平台,為算力供給方與AI應用端的雙方賦能。

針對科學研究人員、AI領域的中小企業和傳統企業的AI 項目,Power的MaaS平台將大幅降低算力的使用門檻,特別是對於沒有專業AI開發能力的中小企業和傳統企業來說,這一點尤其重要。

對於傳統算力供給者,借助Power網路可以接觸到更多用戶。更進一步,他們借助Power的MaaS平台,可以擴大應用場景,獲得更高效益。如此一來,Power網絡可以將傳統的中小型中心化算力也納入去中心化算力網絡,進而大幅擴大網絡規模。

3. 非同步訓練演算法-解決網路瓶頸,挖掘閒置算力潛力

在當下的機器學習領域,特別是在大型語言模型訓練中,通常需要透過GPU專用連接線或高頻寬的內部網路來實現GPU間的同步分散式訓練,這不可避免地增加了訓練的門檻和成本。

NetMind Power透過自研的模型切分和資料非同步的技術,打破了分散式訓練中網速和頻寬的壁壘,即使是分佈在地球不同角落的訓練節點,也能夠同步參與到龐大的模型訓練工作中。

4. 模型加密與資料隔離-解決去中心化網路中的安全困擾

Power提供獨特的模型加密技術,保障了在去中心化的志願運算場景中,使用者的AI模型和資料安全。所有網路通訊都經過加密處理,保障了資料傳輸的安全;透過資料隔離與模型分割確保去中心化網路中任何單一節點無法取得完整資料與模型,大幅提升安全性。

清華團隊推出新平台:用去中心化AI打破算力荒圖片

二、又一個清華背景團隊,已在海外創業多年

NetMind.AI的核心團隊來自清華,已在AI領域打磨超過10年的時間。

公司創辦人兼CEO, Kai Zou 於2010年畢業於清華大學數學物理基礎科學班,並於2013年獲得喬治城大學數學和統計學碩士學位。

他是一名連續創業者,曾同時領導ProtagoLabs和非營利組織AGI Odyssey。同時,他也是一位天使投資人,曾投資包括Haiper.ai、Auto Edge、Qdot和Orbit在內的多家AI新創公司。

值得關注的是,目前,Kai Zou 和OpenAI研究員Jason Wei發表的論文《EDA: Easy Data Augmentation Techniques for Boosting Performance on Text Classification Tasks》累積引用次數已經超過2000次。 CEO和他的團隊堅信他們所建造的平台應該為真正做學術研究的學者以及推動AI發展的企業工程師提供資源。

清華團隊推出新平台:用去中心化AI打破算力荒圖片

公司CTO則於2016年在喬治華盛頓大學獲得電腦科學碩士學位;在加入NetMind.AI之前,曾在微軟擔任高級團隊負責人;其在Web3、區塊鏈技術、分散式系統、Kubernetes、雲端運算以及Azure和AWS等方面累積相當深;並具備邊緣運算、全端開發和機器學習等專業技能。

三、終極理想:把AI送進千家萬戶

NetMind去中心化AI的願景背後,其實深埋著科技普惠的理想。

回看IT技術發展史,去中心化的思潮往往在計算資源集中化陡增的時刻湧現,作為一股自下而上的力量,對抗試圖將一切資源壟斷的巨頭,從而拉開新一輪的科技普惠浪潮,讓新科技真正普及到世界各個角落。

如今的大模型市場,或許正處於這樣的時刻。

放眼大模型市場,轟轟烈烈發展了一整年後,真正能站穩腳步的新創公司不多。除了極少數幾家明星獨角獸外,大模型的未來似乎正在收斂到微軟、谷歌、英偉達等科技巨頭手中。長此以往,少數企業可能會對運算資源的定價、可用性和存取權限形成壟斷控制。

這時候,正需要類似NetMind Power這樣的民主化敘事,為AGI的故事撰寫新的藍圖。

目前,NetMind已經在學術和商業領域展開合作——

學術方面,NetMind Power目前已經與諸多國內外頂級名校開展合作,包括計算機科學領域頂尖的劍橋大學、牛津大學、卡內基美隆大學,西北大學、清華大學、華中科技大學、萊斯大學、復旦大學、上海交通大學等。

清華團隊推出新平台:用去中心化AI打破算力荒圖片

商業面,NetMind Power作為企業提供基於去中心化網路的AI算力解決方案,讓企業可以專注於模型研發與產品創新。越來越多的企業在Netmind Power的幫助下,加速推出AI創新產品。例如最近在北美勢頭正盛的文生視訊團隊Haiper.ai已經將其模型的訓練和推理與NetMind Power平台深度結合。

清華團隊推出新平台:用去中心化AI打破算力荒未來,NetMind Power將逐漸成長為去中心化的AI社區,加速全球AI創新。

機器學習從業者,學術研究人員及AI應用側的企業都可以在NetMind Power平台找到自己所需的算力和模型,也可以把自己訓練的模型託管在平台上,甚至提供給平台上的其他用戶,並從中收取一定費用。

使用者不僅能夠在平台上呼叫對應算力解決自己的訓練需求,還能將自己訓練的模型透過平台提供給更多有需要的人或企業,層層傳遞。

將時間軸拉長,要真正實現AGI,AI的普惠化和民主化是必然前提。如今,率先出發的NetMind.AI,正在做出自己的貢獻,尋找更多的夥伴,通往民主的AGI時代,邁出堅實的一小步。

#

以上是清華團隊推出新平台:用去中心化AI打破算力荒的詳細內容。更多資訊請關注PHP中文網其他相關文章!

來源:51cto.com
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
最新問題
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板