見分けるのは「本物と偽物の猿王」に匹敵し、防ぐのが難しい「AI変顔＋AI擬音」

「本物と偽物の猿王」や予測不可能な「顔が変わるAI擬音語」に匹敵する見分けの難しさ

CFP による AI 顔を変えるクリエイティブ写真

インターネット上で「AI Stefanie Sun」が演奏する多くの曲のスクリーンショット

1秒で見た目を変える - AIの波を受けて、「顔を変える」ことも技術の反復を実現し始めています。現在、生放送やショートビデオなどで、キャスターは時にはディルラバのように、時にはイー・ヤン・チアンシーのように見えますが、スターとして物資を運ぶキャスターは、老若男女問わず名前を挙げることができます。顔は画面の後ろに実装されています。

動画 AI 顔変更とは、人工知能ビッグデータ技術を利用し、ユーザーのニーズに基づいた技術的手段を通じて、動画内のキャラクターの顔を別の人物の顔に置き換えることを指します。現在、AI顔変更技術はショートビデオ、広告、映画などの分野で広く活用され、多くのクリエイティブな効果をもたらしています。

ただし、このテクノロジーは一部の犯罪者によって、AI 顔を変える詐欺などの違法な犯罪行為にも使用されています。 「AI 顔変更 AI ナレーション」に直面すると、画面の前の「猿王の本物と偽物」を識別するのと同じくらい難しく、孫大生が本物か偽物かを簡単に見分けることはできません。

「AI 詐欺」が Weibo で人気の検索トピックになっています

「安全な包頭」WeChat 公開アカウントによると、最近、包頭市公安局電気通信サイバー犯罪捜査局は、インテリジェント AI テクノロジーを使用して電気通信詐欺を行った事件を発表した。福州市の会社の男性が10分以内に逮捕され、430万元をだまし取られ、その後、#AIfraudisbreakingoutというトピックがWeiboでホット検索になった。

すでに公共の利益に対する脅威となっている AI はどのように不正行為を行うのでしょうか?

具体的には、犯罪者は AI の顔を変える技術を使用して偽のビデオや写真を作成し、詐欺行為を実行します。たとえば、ポルノ ビデオ内の特定の人物や有名人の顔を差し替えて虚偽の出来事を作り出したり、わいせつなビデオや違法ビデオで被害者の顔を差し替えて恐喝したりします。これらの詐欺行為は、被害者の個人のプライバシーと法的権利を侵害するだけでなく、被害者に多大な精神的損害や財産的損失を引き起こす可能性があります。

実際、AI詐欺はこれまで我が国で何度も発生しています。西華都市報や報道記者によるこれまでの調査報道によると、浙江省温州市公安局は、2021年に公城橋警察署に通報があり、被害者のシャオ・チェンさんは女性から脅迫されたと供述したと発表した。彼とビデオチャットした後のネチズン。警察の調べによると、相手は人工知能変顔技術を使ってシャオ・チェンさんの顔をわいせつな動画に合成し、その動画を使ってシャオ・チェンさんを脅迫したという。

2020年、上海の企業幹部が、相手がAI変面技術と人工的に生成した音声技術を使って会社のリーダーの顔を作り、幹部に送金を要求したため、150万元をだまし取られた。

「利用者がAI変顔技術を利用して変装し、変装者の肖像権その他の権利を侵害し、または他人の感情や財産に多大な損害を与えた場合、プラットフォームは利用規約を履行できません。」 「合理的な審査義務を負っており、状況を効果的に規制できていない。そのような行為が行われた場合、侵害幇助、さらには直接侵害に対して一定の法的責任を負う必要がある」とタホタ法律事務所の弁護士、リウ・チン氏は記者団に対し、プラットフォームが意図的にそうしない限り、こう語った。プラットフォームが詐欺に該当するかどうかを判断することは困難です。

「AI 技術を利用したソフトウェアやインターネット製品を利用する場合、ユーザーは、AI 技術を悪用して違法行為を行わないよう注意する必要がある一方で、真実の特定と検証にも注意を払う必要があります。 「通信相手の身元を確認し、外見を信用しないでください。送金や買い物が必要な場合は、慎重に考えてください。」Liu Qing 氏は、詐欺に遭遇した場合は、できるだけ早く警察に電話し、警察の助けを求めるべきであると指摘しました。 、警察ができるだけ早く事件を把握し、犯罪者を厳しく処罰できるよう、関連資料の保管に注意を払います。 「さらに、自分の肖像が盗まれたり、「顔を変えられたり」したことがわかったら、その後の権利保護のためにできるだけ早く証拠を保管する必要があります。また、ネットワーク プラットフォームの運営者に苦情を申し立て、侵害している写真の公開を要求することもできます。あるいはビデオを強制的に削除することもできます。最終的には、人格権訴訟を起こし、正当な権利と利益を守るために法的手段を使用することもできます。」

最近、中国インターネット協会は声明を発表し、一般の人々に対し、人工知能技術を利用した新たな詐欺に対する警戒を高め、予防措置を強化するよう呼び掛けました。 AI 時代には、テキスト、音声、画像、ビデオがすべて高度に合成される可能性があり、送金、送金、資本交換などの典型的なシナリオでは、相手の携帯電話番号に折り返し電話するなどの追加の通信方法を使用して検証する必要があります。単一の通信チャネルのみに依存するのではなく、相手が誰であるかに関係なく、確認なしで直接送金します。

セレブはAIの「魔法」から逃れられない

最近、AI ステファニー・サンがインターネット上で人気を博した後、歌手のステファニー・サンは Web サイトに「My AI」という記事を掲載し、AI テクノロジーに関する彼女の見解に初めて応えました。ステファニー・サンは自分自身を、映画館の一番良い席に座ってポップコーンを楽しみ、強力な AI テクノロジーと対峙している観客であると表現しました。 「この無限の存在の海では、あらゆることが可能であり、あらゆることが重要ではありません。純粋に考え、自分らしくいれば十分だと思います。」

しかし、実際には、「AI」技術が著名人の音声情報を使用すると、プライバシー権を侵害する可能性があります。私の国の民法第 1034 条によ​​れば、自然人の個人情報は法律によって保護されています。個人情報とは、電子的またはその他の方法で記録され、単独または他の情報と組み合わせて特定の自然人を識別できるさまざまな情報です。 「AI 顔変更」または「AI 音声変更」技術が著名人の生放送ルームで本人の同意なしに使用された場合、その人のプライバシー権が侵害される可能性があります。

誰かがインターネット上に「顔変更ライブブロードキャスト」チュートリアルを投稿し、対応するソフトウェアを使用すると、ライブブロードキャストで自分の顔を有名人の顔に置き換えることができると主張しています。これに関連して、劉青氏は、我が国の民法第1024条によれば、いかなる組織や個人も、侮辱、中傷などによって他者の名誉権を侵害してはならないと述べた。このような行為はアーティストの肖像権や名誉を侵害する可能性があり、営利目的に使用した場合には虚偽宣伝罪に問われる可能性もあります。

記者が民法について問い合わせたところ、AI顔変更技術には肖像権、名誉権、プライバシー権などさまざまな権利が絡んでいることが分かった。私の国の民法第 1019 条によれば、いかなる組織または個人も、他人の名誉毀損、汚損、または情報技術を利用して他人の肖像権を侵害する方法で、他人の肖像を作成、使用、または表示することはできません。人工知能による変面技術を利用して虚偽の肖像を作成することは、他人の肖像権を侵害することとなり、侵害紛争につながる可能性があります。

AI 顔変更のパンドラの箱を開けたのは誰ですか?

AI 顔変更ライブ ブロードキャストの開発の歴史は、DeepFaceLab などのツールのリリースにより AI 顔変更技術の開発が始まった 2018 年に遡ります。主要なライブ ブロードキャスト プラットフォームは、AI 顔変更ライブ ブロードキャスト テクノロジーの適用を開始しており、このテクノロジーは常に最適化およびアップグレードされています。

2020年、アメリカのGenelec（Zoom）社は、Zoomビデオ会議で自分の顔を他人の顔に置き換えることができるAI顔置換機能を開始しました。 AIによる顔変更技術の開発・応用が広く注目され議論されており、本機能もそれに貢献します。

2021 年、AI 顔変更テクノロジーが成熟し、改良を続けるにつれて、AI 顔変更ライブ ブロードキャストの適用範囲も拡大し続けるでしょう。 Douyin の「Faceu」や「Perfect」など、独自の AI リアルタイム顔変更サービスを立ち上げるプラットフォームや企業が増えています。これらのアプリケーションは、顔の置き換えを実現するだけでなく、音、動き、表情などの次元の置き換えと合成を実現し、AI 顔変更ライブ放送をよりリアルで鮮やかなものにします。

しかし、AI 顔変更ライブ ブロードキャストの人気と応用に伴い、多くの論争や問題も生じています。 AI 顔を変えるライブ放送が個人のプライバシーや肖像権を侵害する可能性があると考える人もいれば、AI 顔を変えるライブ放送が虚偽のプロパガンダやポルノ コンテンツなどの違法な目的に使用されるのではないかと心配する人もいます。したがって、多くの国や地域は、人工知能の顔を変えるライブ放送の応用と開発を規制するために、関連する政策と規制を策定し始めています。

2021 年、私の国の有名な電子商取引プラットフォームは、生放送で AI 顔変更技術を使用し始めました。ユーザーはこの機能を使用して、自分の顔を有名人やネット上の有名人の顔に置き換えることができ、それによって、より鮮やかでリアルな表示効果です。さらに、この電子商取引プラットフォームは、独自のAI顔を変えるライブブロードキャストサービスも開始しており、これを通じてブランドはライブブロードキャストでよりリアルで鮮やかな表示効果を使用できます。

AI 顔変更テクノロジーの将来は多くの関係者によって影響を受けるでしょう

現在、AI 顔変更ライブ ブロードキャストは我が国のライブ ブロードキャスト業界のトレンドとなっており、ますます多くのプラットフォームや企業が AI 顔変更テクノロジーをライブ ブロードキャストに適用し始めています。同時に、技術の継続的な開発と応用により、我が国におけるAI顔変更ライブ放送の応用の見通しはより広範かつ多様になるでしょうが、依然として多くの要因の影響を受けます。

大手生放送プラットフォームのスタッフである張磊氏（仮名）は、業界での経験によれば、AI技術の発展によりAI顔を変える生放送の進歩が促進されるだろうと記者団に明らかにした。 AI アルゴリズムの継続的な最適化とアップグレードにより、AI 顔が変わるライブ ブロードキャストはより正確かつリアルになり、それによってブランドのニーズをより適切に満たせるようになります。 「市場の需要と消費者の行動も、AI顔変更ライブ放送の開発に影響を与えます。市場の需要が引き続き増加すれば、AI顔変更ライブ放送の開発はより強力に推進されるでしょう。AI顔変更ライブの開発の方向性」ブロードキャストは、消費者の行動や、消費者がどのタイプのライブ コンテンツを視聴することを好むかなどの好みの影響によって影響を受けます。」

Zhang Lei 氏は、AI 顔変更に対する政策や規制の影響について記者団に答え、政策や規制が AI 顔変更ライブ放送の将来の開発に大きな影響を与えることを認めました。 「政策や規制が AI 顔変更ライブ ブロードキャストの開発に対して前向きな姿勢をとれば、AI 顔変更ライブ ブロードキャストの開発はより迅速かつ広範囲に行われる可能性がありますが、まだすべては不明です。」

West China Metropolis Daily-Cover News 記者 Bian Xue

以上が見分けるのは「本物と偽物の猿王」に匹敵し、防ぐのが難しい「AI変顔＋AI擬音」の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。