自生成式人工智慧以大有橫捲之勢席捲各行各業,AI對人類的挑戰與威脅也逐漸引發人們的擔憂。
近日,根據彭博社報道,非營利組織人工智慧安全中心(Center for AI Safety)發布了一份僅22個字的簡短聲明:將把減輕人工智慧帶來的滅絕風險與流行病、核戰等社會問題放在同一高度,成為全球優先事項。
據悉,該聲明是由超過350名人工智慧領域的行業高管、專家和教授聯名簽署並發佈在非營利組織人工智慧安全中心(CAIS)的網站上,其中簽署者包括OpenAI首席執行官山姆・奧特曼(Sam Altman)、「AI 教父」傑弗裡・辛頓(Geoffrey Hinton)、2018 年圖靈獎得主約書亞・本希奧(Youshua Bengio)、Google DeepMind 執行長戴米斯・哈薩比斯(Demis Hassabis)等等。
事實上,此前5月16日,OpenAI創始人Sam Altman在美國國會就人工智慧技術的潛在危險參加聽證會時,就明確呼籲政府應該對生成式人工智慧進行監管和乾預,其稱“對人工智慧的監管是必不可少的,對於一項非常新的技術,我們需要一個新的框架」。所以其身影出現在此次聯名簽署,不讓人覺得意外。
(圖源自網路)
除了業界對生成式人工智慧發展的無序狀態感到擔憂,政界方面也是如此。先前有消息稱,5月21日,七國集團(G7)領導人就制定和建立人工智慧技術標準做出呼籲,敦促行業和監管者要確保人工智慧“值得信賴”,因為目前的技術治理尚未跟得上人工智慧的發展步伐。而歐盟本月也幾乎通過一項關於人工智慧技術監管的立法,預計將成為全球首部全面的人工智慧法案。
新技術的出現並非像洪水野獸一樣威脅巨大,事實上,每一個技術升級週期都伴隨著機會與風險。當然需要避免扼殺創新,但對新技術進行適當監管也是不可或缺的。
以上是AI可能滅絕人類? AI領域權威人士呼籲監管的詳細內容。更多資訊請關注PHP中文網其他相關文章!