首頁 > 科技週邊 > 人工智慧 > AI詐騙成功率100%?防深偽模型'用魔法打敗魔法”

AI詐騙成功率100%?防深偽模型'用魔法打敗魔法”

PHPz
發布: 2023-05-30 16:57:19
轉載
771 人瀏覽過

日前,一則AI詐騙成功率接近100%#的話題衝上微博熱搜。福建某科技公司的法人代表在10分鐘內被騙走430萬,因為看了一個使用AI換臉技術製作的影片。

AI詐騙成功率100%?防深偽模型用魔法打敗魔法”

國外也發生了一起AI相關詐騙,一封附上GoogleCEO影片的郵件,讓不少YouTube部落客下載了帶著危險病毒的檔案。

這兩起詐騙事件都有著深度偽造技術deepfake的身影。這是一項誕生了6年之久的換臉大法,如今AIGC技術的大爆發,更使得製作難以辨識的deepfake影片越來越容易。對於人臉辨識應用普遍的金融業來說,防深偽攻擊也顯得格外重要。

在金融業,由deepfake產生的欺詐主要是身份欺詐,即透過深度偽造的虛假圖像和視頻來冒充他人身份,騙過金融信貸流程中的身份核驗系統,進而實施盜刷和惡意註冊等。目前,金融業應對deepfake已有了較成熟的技術方法與方案,度小滿在deepfake應對方法上就累積了豐富的經驗。

度小滿介紹,近年來利用深偽技術繞過人臉辨識流程的趨勢有所增長,對金融機構實名認證系統造成了一定的威脅。開發「反Deepfake」檢測演算法,將內容的真實性認證交給人工智慧處理是最可靠的方法。防範深度偽造的度小滿檢測模型演算法策略,從三個面向入手,成功解決了製造虛假影片的問題。

首先是產生瑕疵。具體而言,由於相關訓練資料的缺失,deepfake模型可能無法正確渲染部分人類臉部特徵,小到眨眼頻率不正常,大到口型與聲音不吻合等。透過設計特定的分析演算法,檢測模型可以提取那些「基本肉眼可見」的特徵並進行分析和判斷。

AI詐騙成功率100%?防深偽模型用魔法打敗魔法”

其次是固有屬性。由於不同攝影機擁有不同的設備指紋,類似GAN這種模型在生成人臉時也會留下獨特的用於識別生成器的指紋,因此經過對比就能發現端倪。

AI詐騙成功率100%?防深偽模型用魔法打敗魔法”

第三個細節是高層語意。它指的是偵測臉部動作單元(肌肉群)協調性、臉部各區域朝向一致性、視訊微觀連續性等方面的問題,由於這些細節建模困難、難以複製,很容易抓到把柄。

AI詐騙成功率100%?防深偽模型用魔法打敗魔法”

當然,由於單一特徵難以適應複雜的deepfake內容,因此檢測模型的整體框架採用的是多特徵融合,以此來保證決策的穩健性。

在資料樣本優勢之外,度小滿也融入了自己的獨創點,包括神經網路搜尋調優演算法、微表情分析和圖卷積(GCN)技術以及基於重建的自監督預訓練方法,讓模型實現了從「鑑偽」到「鑑真」的轉變。

也正因此,去年9月度小滿防深偽檢測模型順利通過了信通院人臉辨識安全專案評測,獲得活體檢測安全防護能力優秀級認證。具體效果上,它可以涵蓋各種深偽形式,包含靜態人像圖片活化、AI換臉、人臉虛假合成等,達到千分之一誤報率下召回90%以上,也就是99% 的準確率。

隨著新的深度偽造工具不斷湧現,金融業面臨的深度偽造攻擊將會增加。度小滿認為,未來更多的鑑偽技術應該集中去挖掘語意特徵、跨模態特徵等,讓模型利用可解釋性強的高層語意去鑑偽。

(來源:光明網)

以上是AI詐騙成功率100%?防深偽模型'用魔法打敗魔法”的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
來源:sohu.com
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板