根據行業媒體的報導，由於擔心ChatGPT這款強大的聊天機器人可能被用於犯罪活動，OpenAI對一些國家和地區的應用進行了限制。但研究發現，來自俄羅斯的一些網路犯罪分子為了採用ChatGPT，一直在試圖尋找新的方法來繞過現有的限制措施，並發現了包括繞過IP、支付卡和電話號碼限制措施的案例。
研究人員在駭客論壇上發現俄羅斯駭客試圖繞過限制以訪問ChatGPT的證據
自從2022年11月自推出以來，ChatGPT已成為開發人員、作家和學生的重要工作流程工具，但也成為了能夠被網路犯罪分子利用的有力武器，有證據表明駭客使用它來編寫惡意程式碼和改進釣魚電子郵件。
ChatGPT可能被用於惡意目的，這意味著OpenAI需要限制該工具的部署方式，因為駭客採用ChatGPT能夠更快地實施惡意攻擊。 OpenAI為此採用地理位置屏蔽措施，以阻止俄羅斯用戶存取該系統。
但是，Check Point Software研究人員在地下駭客論壇上發現了多個來自俄羅斯的駭客談論如何規避這些限制的案例。例如，來自俄羅斯的一個駭客團體在論壇上提出了一個問題——如果他們無法正常進入ChatGPT，如何使用被盜的支付卡支付OpenAI帳戶，並使用API存取系統？該系統目前是一個免費使用的預覽版，而API包括文字和程式碼產生會話期間使用代幣支付費用。
Check Point威脅情報部門經理Sergey Shykevich表示，繞過OpenAI的限制措施並不是特別困難，「我們現在看到俄羅斯的一些駭客已經在討論和檢查如何越過地理圍欄，並將ChatGPT用於他們的惡意目的。我們認為這些駭客很可能試圖在他們的網路犯罪活動中測試和採用ChatGPT。網路犯罪分子對ChatGPT越來越感興趣，因為它背後的人工智慧技術可以讓他們的網路攻擊更加有效率。」
這些地下駭客論壇也提供了一些俄語教程，提供半合法的線上簡訊服務，以及如何使用它們註冊ChatGPT，使得看起來是在沒有被封鎖的其他國家使用ChatGPT。
駭客從這些論壇上得知，他們只需要支付2美分購買一個虛擬號碼，然後用這個號碼從OpenAI取得代碼。這些臨時的電話號碼可以來自世界上任何地方，也可以根據需要產生新號碼。
Infostealer和ChatGPT的惡意使用
#在此先前的調查發現了網路犯罪分子在這些駭客論壇上發佈如何利用ChatGPT進行非法活動的例子。這其中包括創建很簡單的Infostealer。隨著人工智慧工具的廣泛使用，這些Infostealer將會變得更加先進。
Infostealer是採用這些「簡單工具」的一個例子，它出現在一個駭客論壇上的一篇名為「ChatGPT——惡意軟體的好處」的貼文上。發布這篇文章的作者指出，駭客可以使用ChatGPT，透過向人工智慧工具輸入描述和報告來重新創建惡意軟體，然後共享基於Python的竊取程式碼，該程式碼可以搜尋常見的文件類型，將它們複製到隨機文件夾，並將它們上傳到硬編碼的FTP伺服器。
Shykevich說。 「網路罪犯分子發現ChatGPT很有吸引力。在最近幾週，我們發現了駭客開始使用ChatGPT編寫惡意程式碼的證據。ChatGPT有可能為駭客提供一個良好的起點從而加快網路攻擊的進程。正如ChatGPT可以用於幫助開發人員編寫程式碼一樣，它也可以用於惡意目的。」
OpenAI表示，已經採取措施限制ChatGPT的使用，包括限制可以發出的請求類型，但有些請求可能會被遺漏。也有證據表明，其提示被用來「欺騙」ChatGPT，以研究為幌子或作為虛構的範例，可以提供可能有害的程式碼範例。
ChatGPT和潛在的錯誤訊息
與此同時，OpenAI正在與喬治城大學安全和新興技術中心以及史丹佛網路天文台合作，研究大型語言模式(例如ChatGPT的基礎GPT-3)可能被用來傳播假訊息的方式。
此模式可用於降低營運影響力行動的成本，使其處於新型網路犯罪分子的可控範圍內，而以前只有大型參與者才能存取這類內容。同樣，能夠自動製作文字的招募人員可能會獲得新的競爭優勢。
駭客利用ChatGPT也會導致不同的行為，增加網路攻擊規模，並且與人工創建相比允許創建更多的個人化和針對性內容。最後，他們發現文字產生工具能夠產生更有影響力和更有說服力的訊息，相較之下，大多數人工生成的宣傳文件通常是駭客可能缺乏目標所需的語言或文化知識。
OpenAI的研究人員宣稱：「我們的基本判斷是，語言模型對品牌的宣傳者很有用，並可能改變線上影響力的運作。即使最先進的模型是加密的，或者透過應用程式介面(API)存取來控制，宣傳者也可能傾向於採用開源的替代方案。」
以上是AI工具成網路犯罪香餑餑？研究發現俄羅斯駭客正繞過OpenAI限制訪問ChatGPT的詳細內容。更多資訊請關注PHP中文網其他相關文章！
