AI詐欺の成功率は100%なのでしょうか？対ディープフェイクモデル「魔法で魔法を倒す」

数日前、成功率が 100% に近い AI 詐欺に関するトピックが #Weibo でホットな検索トピックになりました。福建省のテクノロジー企業の法定代理人が、AIの顔変更技術を使って作られた動画を見たため、10分間で430万元を騙し取られた。

海外でもAI関連の詐欺が発生し、Google CEOの動画が添付されたメールにより多くのYouTubeブロガーが危険なウイルスを含むファイルをダウンロードさせた。

これらの詐欺事件は両方ともディープフェイク技術に関係しています。これは6年前から存在する顔を変える手法で、現在ではAIGC技術の爆発的な発展により、識別が難しいディープフェイク動画の作成がますます簡単になってきています。顔認識が広く使用されている金融業界にとって、ディープフェイク攻撃を防ぐことも特に重要です。

金融業界では、ディープフェイクによって引き起こされる詐欺は主に個人情報詐欺です。つまり、ディープフェイクの画像や動画を使用して他人の身元を偽り、金融信用プロセスの本人確認システムを騙し、詐欺や悪意のある行為を行います。登録。 。現在、金融業界にはディープフェイクに対処するための技術的手法とソリューションが比較的成熟しており、Du Xiaoman氏はディープフェイクに対処する豊富な経験を蓄積しています。

Du Xiaoman氏は、近年、ディープフェイク技術を利用して顔認証プロセスを回避する傾向が増加しており、金融機関の実名認証システムに一定の脅威を与えていると紹介した。 「アンチディープフェイク」検出アルゴリズムを開発し、コンテンツの信頼性検証を人工知能に引き渡すことが最も信頼性の高い方法です。ディープ偽造を防ぐための Du Xiaoman 検出モデル アルゴリズム戦略は、3 つの側面から偽ビデオ作成の問題を解決します。

1 つ目は、欠陥を生成することです。具体的には、関連するトレーニング データが不足しているため、ディープフェイク モデルは、異常なまばたきの頻度から口の形と声の不一致などに至るまで、人間の顔の一部の特徴を正しくレンダリングできない可能性があります。検出モデルは、特定の分析アルゴリズムを設計することで、「基本的に肉眼で見える」特徴を抽出し、分析および判断を実行できます。

2 番目は固有の属性です。カメラごとにデバイスのフィンガープリントが異なるため、GAN のようなモデルでは、顔を生成するときに生成者を識別するための一意のフィンガープリントも残すため、比較を通じて手がかりを見つけることができます。

3 番目の詳細は、高レベルのセマンティクスです。これは、顔の動作単位 (筋肉群) の調整、顔のさまざまな領域の向きの一貫性、ビデオの微視的な連続性の検出などの問題を指しますが、これらの詳細はモデル化やコピーが難しいため、簡単に捕らえられます。

もちろん、単一の特徴を複雑なディープフェイク コンテンツに適応させるのは難しいため、検出モデルの全体的なフレームワークは、意思決定の堅牢性を確保するために複数の特徴の融合を採用しています。

Du Xiaoman 氏は、データ サンプルの利点に加えて、ニューラル ネットワークの検索および最適化アルゴリズム、微表情分析およびグラフ畳み込み (GCN) テクノロジー、再構成ベースの自己教師あり事前トレーニングなど、独自の独創性も取り入れています。このモデルは、「偽造」から「本物」への変換を実現します。

このおかげで、Xiaoman のディープフェイク検出モデルは、昨年 9 月に情報通信技術アカデミーの特別な顔認識セキュリティ評価に合格し、ライブ検出セキュリティ保護機能の優れた認証を取得しました。具体的な効果としては、静止ポートレート写真の起動、AIによる顔変更、偽顔合成など、さまざまな形態のディープフェイクに対応し、誤報率1000分の1で90％以上の再現率を達成しています。精度は 99% です。

新しいディープフェイク ツールが次々と登場するにつれ、金融業界はディープフェイク攻撃の増加に直面することになります。 Du Xiaoman 氏は、将来のより多くの偽造検出技術は、マイニング セマンティクス機能やクロスモーダル機能などに焦点を当て、モデルが強力な解釈可能性を備えた高レベルのセマンティクスを使用して偽造を検出できるようにする必要があると考えています。

(出典: Guangming.com)

以上がAI詐欺の成功率は100%なのでしょうか？対ディープフェイクモデル「魔法で魔法を倒す」の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。