首頁 > 科技週邊 > 人工智慧 > ChatGPT封殺潮,禁入學校,AI頂會刻意改規則,LeCun:要不咱把小模型也禁了?

ChatGPT封殺潮,禁入學校,AI頂會刻意改規則,LeCun:要不咱把小模型也禁了?

PHPz
發布: 2023-04-12 15:43:20
轉載
1666 人瀏覽過

要問近段時間AI 界最出圈的模型是哪個,十人中得有九個人會投ChatGPT 一票,沒辦法,這個模型實在是太火,只因它會的東西太多了。很多人形容它是個真正的「六角形戰士」:不只能拿來聊天、搜尋、做翻譯,還能寫故事、寫程式、debug,甚至開發小遊戲、參加美國高考…… 有人戲稱,從此以後人工智慧模型只有兩類—— Ch​​atGPT 和其他。

一方面 ChatGPT 能力過於驚艷深受大眾喜歡,另一方面,也是麻煩事不斷,遭到不同機構的封鎖。前段時間就有Stack Overflow 封鎖ChatGPT 的消息滿天飛,原因無他,官方表示暫時封禁ChatGPT 是因為它產生的答案正確率太低,發布由ChatGPT 創建的答案對網站和查詢正確答案的用戶來說是非常有害的。

這次風波過去沒多久,頂尖人工智慧會議也開始禁止使用 ChatGPT 和 AI 工具撰寫的學術論文。具體是怎麼回事,我們往下看。

ICML 禁止使用大型語言模型寫論文

前幾天,國際機器學習會議ICML 宣布:禁止徵稿使用大型語言模型(LLM,如ChatGPT)生成的論文,除非生成的文本是作為論文實驗分析的一部分呈現。

ChatGPT封殺潮,禁入學校,AI頂會刻意改規則,LeCun:要不咱把小模型也禁了?

檔案位址:https://icml.cc/Conferences/2023/llm-policy

#根據ICML 的說法,ChatGPT 等這類語言模型雖然代表了一種未來發展趨勢,但隨之而來的是一些意想不到的後果以及難以解決的問題。 ICML 表示,ChatGPT 接受公共資料的訓練,這些資料通常是在未經同意的情況下收集的,出了問題誰負責。

還有就是作者問題,是誰「寫」的論文:機器還是人類?考慮到 ICML 僅禁止 AI 完全生成的文本,這一點尤其重要。會議組織者表示,他們並不禁止使用 ChatGPT 等工具編輯或潤飾作者撰寫的文本,並指出許多作者已經使用語法校正軟體 Grammarly 等半自動編輯工具來潤飾文章。

不過此消息一出,在社群媒體上還是引發了一次大討論,Yann LeCun 轉發並評論道:「大型語言模型不能用,那麼中型和小型語言模型是不是還可以用。」

ChatGPT封殺潮,禁入學校,AI頂會刻意改規則,LeCun:要不咱把小模型也禁了?

微軟研究院ML 基礎團隊的負責人Sebastian Bubeck 則稱該規則為「短視」 ,並在推特上寫道:「ChatGPT 及其變體是未來技術發展的一部分。禁止絕對不是最優的答案。」

ChatGPT封殺潮,禁入學校,AI頂會刻意改規則,LeCun:要不咱把小模型也禁了?

##ICML 表示,明年將重新評估對AI 生成文本的禁令。

一直以來,人們對人工智慧生成文字的有害影響都有不同的擔憂。最常見的問題之一是這些系統的輸出結果根本不可靠。

人工智慧模型經過訓練可以預測任何給定句子中的下一個單詞,但它們沒有硬編碼的「事實」資料庫可供借鑒,因此模型的生成結果經常出現似是而非的情況。很多時候,生成的語句符合語法邏輯,卻不符合客觀現實。

還有一個問題也非常棘手 —— 我們很難區分文字是由 AI「潤飾編輯」的,還是完全由 AI 產生的。這個問題對論文來說就非常嚴重,如果作者用 A​​I 模型基於論文生成簡潔的摘要,這算是編輯文本還是從頭生成文本?

當然,使用 ChatGPT 這樣的 AI 工具並非只有弊端。例如在同儕審查中,流暢的英文表達往往會收穫更高的評價,AI 模型可以幫助非英語母語的論文作者產生更流暢的英文文本。這將為研究人員節省時間,並為學術領域創造更公平的競爭環境。

但要注意的是,ChatGPT 是大型語言模型(LLM),和 Grammarly 等簡單的語法校正軟體有很大的差異。 LLM 本身的主要功能也不是調整已編寫文字的結構和語言,而是產生一些新的文字。

實際上,幾乎不會有論文作者會真的使用 AI 語言模型來產生學術論文。因為學術論文的要求是非常嚴謹的,一般在發表前作者都會反覆檢查論文內容。如果使用 AI 產生的論文出現錯誤,所有署名的論文作者的聲譽都會受到嚴重影響,關係到論文作者的整個職業生涯。

從論文評審的角度講,人們需要一個快速有效的檢測工具,以分辨一篇文章是 AI 生成的還是人工撰寫的。近期就有開發者發布了一個名為 GPTZero 的新應用程序,具備這種檢測功能。

ChatGPT封殺潮,禁入學校,AI頂會刻意改規則,LeCun:要不咱把小模型也禁了?

GPTZero 是由普林斯頓大學電腦科學專業學生Edward Tian 開發的,其中使用兩種不同的指標來評估文本是否由AI 模型編寫:困惑度(perplexity)和突發性(burstiness)。這可能就是用「模型」打敗「模型」吧。

紐約市學校禁止訪問 ChatGPT

#幾乎同一時間,ChatGPT 遭到學校的封鎖。由於擔心 AI 工具會破壞教育,紐約市教育部已經在其網路和設備上阻止對 ChatGPT 的存取。

該部門的發言人Jenna Lyle 表示:此禁令主要是擔心ChatGPT 對學生的學習產生潛在負面影響,以及對ChatGPT 生成內容的安全性和準確性有所擔憂。雖然該工具可以提供快速簡單的答案,但它無法培養批判性思維和解決問題的能力,而這對學生的學業和終身成功至關重要。

除此之外,ChatGPT 也存在其他語言模型所存在的問題。因為其訓練數據來自互聯網,所以它經常在答案中重複和放大性別歧視和種族偏見等。這類語言模型也傾向於編造訊息,從歷史日期到科學規律,但別人一般發現不了它在胡編亂造。

正是這些事實性錯誤,讓教育工作者特別擔心這個工具。許多老師表示,像 ChatGPT 這樣的軟體基本上不可能起到測試學生寫論文的能力。如果 ChatGPT 可以在幾秒鐘內幫助學生完成寫作,他們就不願意花心思去寫了。

然而,另一些人認為,教育系統將不得不適應這種技術的出現 —— 就像它適應早期的顛覆性技術,如Google搜尋和維基百科一樣。但大家對 ChatGPT 適應,顯然還需要點時間。

無論是人為制定和執行文本編寫規範,還是使用一些方法分辨文本是否為 AI 生成,都說明人們意識到急需規範 ChatGPT 等文本生成模型的使用。 ChatGPT 的使用情境和價值仍有待定義。

以上是ChatGPT封殺潮,禁入學校,AI頂會刻意改規則,LeCun:要不咱把小模型也禁了?的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
ai
來源:51cto.com
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板