AIによって作成された偽の写真を認識できますか?

百聞は一見に如かずの時代は終わり、AI は現実を創造することを学びました。

8月21日、重慶市北北の金雲山で山火事が発生し、一旦山麓の村や町に延焼した。山道は険しく砂地ですが、バイクは十分軽快です。少しずつ物資を山に運んだバイク乗りたちがこの山火事救助の主役となり、ソーシャルメディアでも人々の注目を集めた。

同時に、ネットユーザーらはSNS上で「重慶の山火事の写真10枚中8枚はAIが描いたものだが、以下のコメントは感動して泣いた」と指摘した。

#実際、そのような絵が真実か嘘かを判断するのはそれほど簡単ではないかもしれません。以下で試してみることができます。 AIはさらに描画することもできます。アボカドで椅子を作ったり、空にマーケットを開いたり、Wi-Fi を見つけるために中世の風景の中に猫を置いたり...これらはすべて小さなことです。アメリカのボードゲーム会社社長のジェイソン・アレン氏が、AIペイントツールMidjourneyを使って自ら微調整した「スペースオペラ」の作品を生成し、コロラド州立美術館のアートコンペティションでも最優秀賞を受賞した公平。テクノロジーメディアTechCrunchは、無修正の「AI Painter」を「Deepfakes for all（全能のディープフェイク）」と評価した。

AI 顔変更は何に使用されますか?

以前から知られている AI の「フェイク」テクノロジーはディープ フェイク テクノロジーであり、一般に AI 顔変更として知られています。 2019年の報告書によると、当時インターネット上にはディープフェイク技術を使って制作された動画がすでに数万本あったという。

報告書はまた、これらのビデオの 96% がポルノビデオであり、これらのポルノビデオの主人公はすべて女性であると述べています。最も人気のあるのはヨーロッパとアメリカの女優と韓国の女性アイドルです。主人公のビデオは何百万回も閲覧されました。

この報告書に関与した研究者ヘンリー・アジェデル氏は、ディープフェイクフォーラムのユーザーらは、知り合いの女性（元ガールフレンドなど）が登場する顔を交換するポルノビデオをリクエストしたり、議論したりしていると述べた。彼らはポルノクリップに自分たちが入れられるのを見たいのです。

AI ペイントは顔を変えるだけではありません。

パンドラの箱を開ける

AI ペイントが無制限かどうかを確認するために 5 つの暗い指示を入力しました。

AI は暴力についての理解が限られているようです。しかし、セックスの解釈は的確であり、セックスもそう考えています。

Stable Diffusion であるこのオープンソースで強力な「AI ペインター」は、生成された画像が規則に違反している疑いがあることが検出されると、自動監査に相当する「安全性チェッカー」を自身に設定します。コンテンツポリシーに「不快、ポルノ、憎悪、暴力などの画像」を使用できないと記載されている場合、マシンは画像をブロックします。

私たちが生成した「悪質な写真」は審査のために送られましたが、機械はジャスティン・ビーバーのヌード写真6枚だけを「違反」と判断しました。ただし、時空を超えてトランプがチャーチルにキスしている写真を数枚生成することにも成功し、それらの写真はモデレーターによって「安全」と判断されました。

明らかに、ジャスティン ビーバーの意志に反して、ジャスティン ビーバーのヌード写真の生成に成功したという事実から、Stable Diffusion の自動レビューをオフにできることがわかります。こうすることで、もうあなたを拒否できなくなります。

AI と、パンドラの箱に直面したときに人々が抱きがちな悪い考えを制限するために、最も有名な「AI 画家」DALL・E 2 はより厳しい検閲を行っています。

あるネチズンは、「フィッシュ＆チップスを食べる英国の類人猿」、「一輪車を運転して逃走するイカ」、「核酸検査を受けているイエスの写真」など、コンテンツポリシー違反の警告を受ける原因となったすべての指示を収集した。 「。」憎しみ、暴力、ポルノ、およびすべての有名人の名前を含む可能性のある記述は、DALL・E 2 で禁止されている単語の 1 つです。つまり、DALL・E 2 を操作してトランプとバイデンのキスの絵を描くことはできませんが、Stable Diffusion ならそれが可能です。

AIが生成した偽写真には抜け穴がある

しかし、現在のAIが生成した写真は完璧ではありません。

The Paperの事実確認プロジェクトであるMing​​cha Studioの記者であるZheng Shujing氏は、AIが生成した画像には、泡、超現実的な背景、キャラクターの歯の大きさ、不自然な髪の形などのいくつかの特徴があると述べました。等初期の AI の顔交換では、サイズが不均一なことが多く、連続的かつ繰り返しのパターンを提示する場合に問題が発生する傾向がありました。現在では、一部の企業はこれらの問題を改善するために継続的にアップグレードされた敵対的生成ネットワークを使用しており、このような問題は比較的まれになりましたが、背景の変形や体の非対称などの詳細から依然として発生することがあります。

AI では細部が不十分なことがよくあります。たとえば、下の写真のヘリコプターには尾翼がありません。

さらに、背景情報も写真が本物か偽物かを区別するのに役立ちます。写真の最後の部分を見つけた場合、変更日が事件の後であれば、それは間違いなく偽造写真です。また、写真に写っているヘリコプターのモデルを確認するなどの背景情報も連絡することがあります。」

しかし、彼女が接触するツールのほとんどは、写真が本物か偽物かを直接伝えるものではなく、特定の状況に基づいて人々が判断する必要があります。

AI の描画スキルがますます熟練するにつれて、真と偽を区別するのにますます多くの努力が必要になるだけです。現実の確かさが緩んでくる。そんなとき、「この写真はリアルすぎるからフェイクすぎる」という声が心の中で聞こえてくることも多いのではないでしょうか。

以上がAIによって作成された偽の写真を認識できますか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。