首页 > 科技周边 > 人工智能 > AI诈骗成功率100%?防深伪模型“用魔法打败魔法”

AI诈骗成功率100%?防深伪模型“用魔法打败魔法”

PHPz
发布: 2023-05-30 16:57:19
转载
763 人浏览过

日前,一条AI诈骗成功率接近100%#的话题冲上微博热搜。福建某科技公司的法人代表在10分钟内被骗走430万,因为看了一个使用AI换脸技术制作的视频。

AI诈骗成功率100%?防深伪模型“用魔法打败魔法”

国外也发生了一起AI相关诈骗,一封附上谷歌CEO视频的邮件,让不少YouTube博主们下载了带着危险病毒的文件。

这两起诈骗事件都有着深度伪造技术deepfake的身影。这是一项诞生了6年之久的换脸大法,如今AIGC技术的大爆发,更使得制作难以识别的deepfake视频越来越容易。对人脸识别应用普遍的金融行业来说,防深伪攻击也显得尤为重要。

在金融行业,由deepfake产生的欺诈主要是身份欺诈,即通过深度伪造的虚假图像和视频来冒充他人身份,骗过金融信贷流程中的身份核验系统,进而实施盗刷和恶意注册等。目前,金融行业应对deepfake已有了比较成熟的技术方法和方案,度小满在deepfake应对方法上就积累了丰富的经验。

度小满介绍,近年来利用深伪技术绕过人脸识别流程的趋势有所增长,对金融机构实名认证系统造成了一定的威胁。开发“反Deepfake”检测算法,将内容的真实性认证交给人工智能处理是最可靠的方法。防范深度伪造的度小满检测模型算法策略,从三个方面入手,成功地解决了制造虚假视频的问题。

首先是生成瑕疵。具体而言,由于相关训练数据的缺失,deepfake模型可能无法正确渲染部分人类面部特征,小到眨眼频率不正常,大到口型与声音不吻合等。通过设计特定的分析算法,检测模型可以提取那些“基本肉眼可见”的特征并进行分析和判断。

AI诈骗成功率100%?防深伪模型“用魔法打败魔法”

其次是固有属性。由于不同摄像机拥有不同的设备指纹,类似GAN这种模型在生成人脸时也会留下独特的用于识别生成器的指纹,因此经过对比就能发现端倪。

AI诈骗成功率100%?防深伪模型“用魔法打败魔法”

第三个细节是高层语义。它指的是检测面部动作单元(肌肉群)协调性、面部各区域朝向一致性、视频微观连续性等方面的问题,由于这些细节建模困难、难以复制,很容易抓到把柄。

AI诈骗成功率100%?防深伪模型“用魔法打败魔法”

当然,由于单一特征难以适应复杂的deepfake内容,因此检测模型的整体框架采用的是多特征融合,以此来保证决策的鲁棒性。

在数据样本优势之外,度小满还融入了自己的独创点,包括神经网络搜索调优算法、微表情分析和图卷积(GCN)技术以及基于重建的自监督预训练方法,让模型实现了从“鉴伪”到“鉴真”的转变。

也正因此,去年9月度小满防深伪检测模型顺利通过了信通院人脸识别安全专项评测,获得活体检测安全防护能力优秀级认证。具体效果上,它可以覆盖各种深伪形式,包含静态人像图片活化、AI换脸、人脸虚假合成等,达到千分之一误报率下召回90%以上,也就是99%+的准确率。

随着新的深度伪造工具不断涌现,金融业面临的深度伪造攻击将会增加。度小满认为,未来更多的鉴伪技术应该集中去挖掘语义特征、跨模态特征等,让模型利用可解释性强的高层语义去鉴伪。

(来源:光明网)

以上是AI诈骗成功率100%?防深伪模型“用魔法打败魔法”的详细内容。更多信息请关注PHP中文网其他相关文章!

相关标签:
来源:sohu.com
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板