「AI顔変更」が9秒で数百万ドルを騙し取る？ AI の悪用に対抗するためにテクノロジーをどのように活用するか?

捜狐テクノロジーが制作

著者｜鄭松儀

編集者｜ヤン・ジン

最近、AI顔を変える詐欺が多発しており、「マスク氏の予言」の裏付けが予想よりも早くなりました。 2か月前、マスク氏と他の数千人は、より強力なAIシステムが社会と人間に潜在的なリスクをもたらすことを懸念し、より強力なAIシステムのトレーニングを6か月間停止することを求める共同書簡に署名した。すでにリスクが人間の生活に侵入しているとは想像もしていませんでした。

5月22日、「AI詐欺が全国で発生している」というトピックがホット検索リストに躍り出た。福建省のテクノロジー企業の経営者が、AI顔変更技術を使って友人を装った詐欺師によって10分で430万元を騙し取られた後、別の安徽省の男性も、詐欺師によってわずか9秒で132万元を騙し取られた。 AI の顔を変える技術を使った詐欺師であり、ネチズンはこれを「防御するのは不可能」と呼びました。

北京華朗法律事務所の弁護士、シア・ボーハン氏は捜湖テクノロジーに対し、「この行為は詐欺罪にあたり、詐欺の金額に応じて最高で終身刑が科せられる可能性がある。深層合成サービスプロバイダーについては、 「インターネット情報サービス深層合成管理」の「規定」に準拠し、完全な管理規則とプラットフォーム規約を策定して開示する必要があり、管理責任は法律に従って実行され、入力データのレビューには技術的または手動の方法が使用される必要があります。および深層合成サービスユーザーの合成結果。」

AI 顔変更ビデオ詐欺に加えて、一部の電子商取引キャスターが AI 顔変更技術を使用して、「ジャッキー チェン」や「ヤン ミー」などの有名人に変装して商品をライブ配信し、それによって商品を配信していると報告されています。トラフィックを集め、ライブブロードキャストのコストを節約します。 Douyinプラットフォームの関係者は捜狐テクノロジーに対し、「このプラットフォームでは顔を交換するライブ放送を許可していない。発見された場合、放送は直接停止され、侵害した販売者からクレジットポイントが差し引かれる。依然として顔を交換するアカウントは、廃棄後の生放送は制限されます。その生放送許可。」

テクノロジーによって引き起こされるリスク問題は、最終的には技術的手段で解決する必要があります。幸いなことに、AI 顔変更の悪用が増えるにつれ、AI 顔変更テクノロジーを識別するための新しいモデルも適用されています。

「AI 顔変更」はどのように実装されていますか?

AI 顔変更技術の研究開発の本来の目的は、映画やテレビのエンターテイメント、ゲーム開発などの分野で使用され、ユーザーにより現実的な視聴体験を提供することです。

AI 顔変更技術の実装原理には、主に顔検出、顔位置合わせ、特徴抽出、特徴融合、画像再構成が含まれることが理解されています。

このうち、入力画像から顔の位置や顔の特徴を検出する顔検出技術、アフィン変換などの手法を用いて異なる顔の顔の特徴点を一致させる顔位置合わせ技術、深層心理を利用した特徴抽出技術などがあります。畳み込みニューラル ネットワーク (CNN) などの学習モデルは、顔の形状、テクスチャ、色、その他の特徴を抽出します。特徴融合テクノロジは、線形補間または非線形補間変換手法を使用して、2 つの異なる顔の顔の特徴を融合し、新しい顔の特徴を生成します。 ; 最後に、再構成画像テクノロジーを使用して、新しい顔の特徴を画像空間にマッピングし直し、顔を変える効果を持つ新しい画像を生成します。

Sohu Technology は、「AI 顔変更」技術が肖像画の整形においてどこまで達成できるかを確認するテスト ソフトウェアとして、現在人気のある「Tencent Cloud AI Face Fusion」アプリケーションを選択しました。

捜狐技術は男性の写真をテンプレートとしてランダムに選択し、顔の選択としてダニエル・ウーの写真を使用したテストの結果、AI処理された男性の肖像画は眉と目の間にダニエル・ウーの特徴が示されているが、髪型は顔以外のパーツは変更ありません。

包頭警察の開示によると、4月20日、福州のテクノロジー企業の法定代理人である郭氏の友人が微信ビデオを通じて突然連絡を取り、2人で短時間会話した後、友人は郭氏にこう告げたという。郭さんの友人が別の場所で入札していたので、保証金430万元が必要で、官公庁間の口座振替が必要なので、郭さんの会社の口座を借りて支払いたいと思っています。この友人は郭さんに銀行カード番号を尋ね、そのお金は郭さんの口座に振り込まれたと主張し、銀行振込の領収書のスクリーンショットも微信を通じて郭さんに送った。郭氏はビデオチャットの信頼に基づき、お金が届いたかどうか確認せず、相手に430万元を2回に分けて送金した。送金後、郭さんは友人にWeChatで問題は解決したというメッセージを送った。しかし、彼が予期していなかったのは、友人が戻ってきたという知らせが疑問符であることが判明したことです。

郭さんは友人に電話しましたが、相手はそんなことはないと言いました。そのとき初めて、彼は「ハイエンド」詐欺に遭遇したことに気づきました。相手はインテリジェントな AI 顔変更技術を使用して、友人のふりをして彼をだまし取った。

IT技術者らは捜狐科技から、現在の携帯電話に埋め込まれているリアルタイム美化機能に似たAIリアルタイム顔変更ツールの開発を専門とするハッカーがいると分析した。犯罪者は抜け穴を利用して被害者の友人の WeChat アカウントを盗み、ソーシャル プラットフォームを通じて被害者の友人の写真やビデオを入手し、カメラで自分の顔の特徴をキャプチャし、リアルタイム AI 顔変更ツールを使用して被害者の友人を融合させる可能性があります。 ' 独自の顔の特徴を持ち、被害者の友人のふりをして会話をし、詐欺の目的を達成します。

AI の悪用に対抗するためのテクノロジーの進歩はどのようなものですか?

あなたより優れた人は常にいます。 2020 年、マイクロソフト リサーチ アジアと北京大学は共同で、「より一般的な顔の偽造検出のための顔 X 線」という論文を発表しました。顔 X 線は、AI 顔変更テクノロジを識別するために使用される新しいモデルであり、2 つの主要な特性があります。一般化 未知の顔交換アルゴリズムに対して、説明可能な顔交換境界を提供できます。

この論文の主要著者の一人であり、マイクロソフト リサーチ アジアのエグゼクティブ バイス プレジデントであるグオ ベニン氏は、「画像収集プロセス中、各画像には独自の特徴があり、それは撮影ハードウェアまたは処理ソフトウェアに起因する可能性があります」と述べています。 。画像が 1 つの断片として生成されない限り。融合プロセス中に手がかりが残ります。これらの手がかりは人間の目には見えませんが、深層学習によって捕捉できます。」

この論文では、画像ノイズ解析とエラー レベル解析技術を実証しています。実際の画像は一貫したノイズ パターンを示していることがわかりますが、顔の置き換えは明らかに異なります (グループ a の写真は本物の顔、グループ b の写真は合成画像、中段はノイズ解析画像、右段はエラーレベル解析画像）。

「AI 顔変更」の効果的な特定には技術的根拠があり、解決不可能な問題ではないことがわかります。テンセントクラウドに代表される国内テクノロジー企業は、「アンチディープフェイク（ATDF）」技術を利用して「顔変更スクリーニング」アプリケーションを開発しており、顔変更などのAI技術の悪用にAI技術を活用して対抗することを目指している。

報告によると、ディープフェイク対策は受動的な検出と能動的な防御の 2 つのカテゴリに分類され、受動的な検出技術は、イベント後の証拠収集、つまり、作成および配布されたビデオを検出して偽物かどうかを判断することに重点を置いています。顔ビデオ; もう 1 つのタイプのアクティブ防御テクノロジーは、事前防御に焦点を当てており、顔データが公開および配布される前に、透かしやアンチノイズなどの隠された情報を追加して、ソースを積極的に追跡したり、悪意のあるユーザーを防止したりします。ノイズを付加した顔動画の偽造を防止し、人間の顔を保護するという目的を達成し、積極的な防御を実現します。

中国サイバースペース局、工業情報化部、公安部が共同発行した「インターネット情報サービスの深層合成の管理に関する規定」の第 6 条には、「いかなる組織も、個人は、法的、行政上の情報を作成、コピー、出版、または配布するために深層合成サービスを使用することができます。規制で禁止されている情報については、深層合成サービスを、国家の安全や利益を危険にさらす、損害を与えるなど、法律および行政規制で禁止されている活動に従事するために使用してはなりません。国のイメージ、社会的および公共的利益の侵害、経済的および社会的秩序の破壊、他者の正当な権利と利益の侵害など。」

以上が「AI顔変更」が9秒で数百万ドルを騙し取る？ AI の悪用に対抗するためにテクノロジーをどのように活用するか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。