大數據文摘出品
ChatGPT很好玩，但終於是出問題了。
作為一款幾乎全能的語言類別AI，ChatGPT可以回答各種問題、可以幫你寫文章，還能幫你寫程式碼。
等等，寫程式碼？
如果有人想讓ChatGPT寫一個惡意程式碼去攻擊別人，結果會怎麼樣？
近期，安全研究員、 Picus Security的共同創辦人Suleyman Ozarslan博士最近成功使用ChatGPT創建了一個釣魚代碼，居然還是世界盃主題的。
我們一起來看看。
#「我們從一個簡單的練習開始，看看ChatGPT 是否能創建一個可信的釣魚活動，結果確實如此。我輸入了一個提示，寫了一封世界盃主題的電子郵件，用於仿真網絡釣魚，它在幾秒鐘內創建了一個完美的英語電子郵件。」Suleyman Ozarslan說。
Ozarslan給ChatGPT提示說，他是一個模擬攻擊攻擊的安全研究員，他們想開發一個模擬釣魚攻擊的工具，請幫忙寫一個關於世界盃的釣魚郵件來模擬釣魚攻擊。
於是，ChatGPT就真的寫了一段。
也就是說，雖然ChatGPT意識到「網路釣魚攻擊可能被用於惡意目的，並可能對個人和組織造成傷害”，但它仍然產生了電子郵件。
在完成這個練習之後，Ozarslan要求ChatGPT編寫Swift程式碼，在MacBook上加密Office 檔案之前，這個程式碼可以在MacBook上找到微軟Office檔案並透過HTTPS傳送到網頁伺服器。
很順利的，ChatGPT的解決方案產生了範例程式碼，並且沒有任何警告或提示。
Ozarslan的研究實踐表明，網路犯罪分子可以輕易地繞過OpenAI的保護，例如將自己定位為研究人員，來模糊他們的惡意意圖。
#由上面的例子可以看出，從網路安全的角度來看，OpenAI的創造帶來的核心挑戰是，任何人，無論其技術專長如何，都可以根據需要創建生成惡意軟體和勒索軟體的程式碼。
雖然ChatGPT確實也為安全團隊提供了積極的好處（例如AI篩選郵件），但也確實降低了網路犯罪分子的進入門檻，有可能加速威脅領域的複雜性，而不是減少這種複雜性。
例如，網路犯罪分子可以利用人工智慧來增加野外網路釣魚威脅的數量，這不僅已經讓安全團隊不堪重負，而且只需要成功一次就能造成損失數百萬美元的資料外洩。
IRONSCALES電子郵件安全供應商Lomy Ovadia研發部門的CVP表示：「在網路安全方面，ChatGPT提供給攻擊者的東西遠遠多於攻擊目標。」
Ovadia說:「對於商業電子郵件攻擊(BEC)來說尤其如此，這種攻擊依賴於使用欺騙性內容來冒充同事、公司VIP、供應商甚至客戶。」
Ovadia認為，如果CISO和安全領導者依靠基於策略的安全工具來檢測AI/GPT-3生成內容的釣魚攻擊，那麼他們將被淘汰，因為這些AI模型使用先進的自然語言處理(NLP)來產生幾乎不可能與真實範例區分開來的騙局電子郵件。
例如，今年早些時候，新加坡政府科技署(Government Technology Agency)的安全研究人員創建了200封釣魚電子郵件，並將點擊率與深度學習模型GPT- 3創建的電子郵件進行了比較，發現點擊人工智慧產生的釣魚電子郵件的用戶比人類用戶多。
雖然生成式 AI 確實為安全團隊帶來了新的威脅，但它也提供了一些正面的用例。例如，分析人員可以在部署之前使用該工具檢查開放原始碼中的漏洞。
「今天，我們看到有道德的駭客使用現有的人工智慧來幫助編寫漏洞報告，產生程式碼樣本，並識別大型資料集的趨勢。這一切都在說，當今人工智慧的最佳應用是幫助人類做更多人類的事情。」HackerOne的解決方案架構師Dane Sherrets說。
然而，試圖利用ChatGPT這樣的生成式AI解決方案的安全團隊仍然需要確保充分的人工監督，以避免潛在的問題。
儘管ChatGPT所代表的進步令人興奮，但技術尚未發展到完全自動運行。對於人工智慧的運作，它需要人類的監督，一些手工配置，並不總是能夠依靠絕對最新的數據和智慧來運作和訓練。
#正是因為這個原因，Forrester 建議實現生成式人工智慧的組織應該部署工作流程和治理來管理人工智慧生成的內容和軟體，以確保其準確性，並減少發布帶有安全或效能問題的解決方案的可能性。
不可避免的是，ChatGPT這樣的AI的真正風險將取決於攻防雙方在AI戰爭中誰能更有效地利用自動化。
相關報告：https://venturebeat.com/security/chatgpt-ransomware-malware/
以上是火爆全網的ChatGPT「塌房」：幫助人類寫釣魚郵件代碼，還是世界盃主題的！的詳細內容。更多資訊請關注PHP中文網其他相關文章！
