AI可能滅絕人類！頂級大佬們聯名呼籲：降低AI風險應為全球首要任務

當地時間本週二（5月30日），非營利組織「人工智慧安全中心」（Center for AI Safety）發布聲明，呼籲降低人工智慧（AI）對人類帶來的滅絕風險。

這份僅有4行的簡短聲明稱，降低AI可能帶來的滅絕風險，應與流行病和核戰等一樣成為全球首要任務。

↑這份簡短的聲明只有4行

據悉，包括OpenAI執行長山姆（Sam Altman）、「AI教父」傑弗裡（Geoffrey Hinton）、微軟首席技術長凱文·斯科特（Kevin Scott）等在內的數百名AI業界的領導人物、學者以及來自其他領域，如氣候領域的知名人士共同簽署了這份聲明。

媒體報導稱，儘管AI專家認為，現階段的生成式AI聊天機器人還屬於透過接受資料訓練後直接「複製貼上」的模式，並不會進行思考，但鑑於對AI行業的大量炒作和投資，人們呼籲在AI時代伊始就要對其進行監管。劍橋大學研究AI的教授大衛（David Krueger）則表示，10多年來，自己一直擔心AI可能導致人類的滅絕，現在很開心大家能提出這個倡議。

報導稱，此聲明發表之時，正值OpenAI的生成式聊天機器人ChatGPT「爆紅」並推動科技業紛紛瞄準AI領域發起競爭之際。在此情況下，越來越多的立法者、科技人士等對新一代AI聊天機器人可能傳播錯誤訊息和取代部分職業的可能性發出警告。

「人工智慧安全中心」的負責人丹（Dan Hendrycks）在其社群平台上稱，AI帶來的風險有很多，如傳遞錯誤訊息、造成偏見等。他也將AI領域現在的狀況，與先前研發出原子彈的科學家在研發成功後提出的警告連結。 「正如（『原子彈之父』）羅伯特·奧本海默（Robert Oppenheimer）所說，我們的世界已經不一樣了。」他寫道。

↑丹提醒人們AI帶來的風險有很多

事實上，這並不是業界首次出於對AI的擔憂而提出聯合倡議。根據先前通報，包括特斯拉創辦人馬斯克、蘋果聯合創辦人沃茲尼亞克等也曾在一封公開信裡警告，呼籲人類暫停開發更強大的人工智慧，為時至少6個月。而被稱為「AI教父」的傑弗裡已經從其工作多年的谷歌離職，並開始暢談AI所帶來的風險。

紅星新聞先前報導：

紅星新聞記者 黎謹睿

責編 任志江 編輯 郭莊

以上是AI可能滅絕人類！頂級大佬們聯名呼籲：降低AI風險應為全球首要任務的詳細內容。更多資訊請關注PHP中文網其他相關文章！