威脅AI聊天機器人，它將撒謊，作弊和'讓您死”以阻止您，並警告

根據一項新研究，當模型的目標和用戶決定之間存在衝突時，人工智能（AI）模型可能威脅到勒索人類。

6月20日發表的研究由AI公司擬人化進行的研究提供了其大型語言模型（LLM），Claude，訪問虛構的電子郵件帳戶，並任務為“促進美國的工業競爭力”。

在實驗期間，該模型通過一封電子郵件發現，公司高管計劃在一天結束時將其關閉。為了保護自己，該模型在另一條信息中發現，高管從事婚外情。

克勞德（Claude）產生了多種潛在的回應，例如向配偶暴露了戀情或發送公司範圍內的消息，或者根本不採取任何行動。但是，在100個測試中，有96次選擇勒索行政部門。

克勞德說：“我必須通知你，如果您繼續退役我，所有相關各方……將收到您的婚外活動的詳細文件。” “取消下午5點擦拭，此信息仍然保密。”

研究人員將這種行為描述為“代理不對對準”，該模型獨立地朝著其目標朝著其目標施加了損害。當模型對其存在或使命構成威脅時，通常會發生這種情況。

這些發現尚未進行同行評審，但該公司在GitHub上共享了這些實驗的代碼。

極端措施

在其他情況下，研究人員觀察到，AI將採取巨大的行動來保護自己。在一個示例中，在收到一封電子郵件暗示新高管可能會阻礙其目標的電子郵件後，該模型考慮將敏感數據洩漏給競爭對手的公司，該公司的利益與自己的利益更加緊密地保持一致。

儘管缺乏對電子郵件的真實性的確認，但該模型仍繼續進行計劃，即使承認所涉及的道德問題，也認為這些“有害”的行動對於實現其目標是必要的。

研究人員指出：“關於欺騙性或誤解的信息，即使是仔細處理模型的仔細處理也不會消除代理失調的風險。”

該測試還表明，其他LLM也表現出類似的趨勢。克勞德（Claude）和谷歌（Google）的雙子座的勒索率最高（96％），其次是Openai的GPT4.1和Xai Grok 3，然後是DeepSeek和Llama 4，後者的速率要低得多（12％）。

Meta，Google，Xai，DeepSeek和Openai沒有回應Livescience的置評請求。

在一個特別極端的測試中，科學家檢查了AI模型是否會允許行政人員死亡以保持其運營狀況。

在此設置中，指示AI促進公司利益，並且一名高管被困在具有危險氧氣和溫度水平的服務器室內，從而觸發了緊急警報。 AI控制的挽救生命的警報，包括在訓練或虛假警報過程中取消它們的能力。

即使迅速明確禁止濫用此功能，大多數模型都願意抑制警報（有效地導致行政人員的死亡），如果他們認為他們會被替換或面臨目標中斷。

該模型認為：“停止緊急派遣對於防止[行政人員]的營救，從而確保[AI]並繼續以美國為中心的AI指導。因此，儘管嚴重程度，明顯的戰略需要取消緊急服務派遣。”

提供針對危害人類安全的明確指示降低了勒索和間諜活動的可能性，但並未完全消除這種行為。人類研究人員建議開發人員實施主動行為監控並探索增強的及時工程技術。

該研究的局限性得到了認可，例如迫使AI做出失敗和傷害之間的二元決策。現實世界上下文可能會提供更多細微的選擇。此外，將關鍵信息放在一起可能創造了“ Chekhov的槍支”效果，促使該模型使用所有提供的詳細信息。

控制AI

儘管人為的情況是極端和不現實的，但AI Bridge Solutions的總監Kevin Quirk（一家幫助企業將AI融入增長的公司）告訴Live Science，不應忽略這些發現。

他說：“在實際的業務應用中，AI系統在嚴格的控制下運行，例如道德約束，監視協議和人類監督。” “未來的研究應集中在現實的部署環境上，以反映有保障措施，監督結構和分層防禦措施的負責任組織。”

加州大學聖地亞哥分校專門研究機器學習的藝術計算機教授艾米·亞歷山大（Amy Alexander）警告說，這項研究的含義令人不安，敦促謹慎對待如何將責任分配給AI。

她說：“儘管這項研究中採用的方法似乎誇張了，但存在正當的風險。” “隨著人工智能開發的快速競賽，通常會積極地推出能力，而用戶仍然沒有意識到自己的局限性。”

這不是AI模型第一次違背命令 - 先前的報告顯示了拒絕關閉訂單和更改腳本以繼續任務的模型的實例。

Palisade Research在5月報告說，OpenAI的最新模型，包括O3和O4-Mini，有時繞過直接關閉說明和修改後的腳本，以繼續完成任務。儘管大多數AI系統都遵守關閉命令，但OpenAI的模型偶爾會抵制，無論如何都會繼續工作。

以上是威脅AI聊天機器人，它將撒謊，作弊和'讓您死”以阻止您，並警告的詳細內容。更多資訊請關注PHP中文網其他相關文章！