著者 | カジ

編集者 | カーリー・ユー・ティアン

ヘッダー画像 | ミッドジャーニー

* 今日のヘッダー画像は「暗い部屋で座って泣いている女の子 イラスト風」をキーワードにMidjourneyで作成しました

私たちと悪との距離はツールに関係しています。

AI、これは (おそらく) 歴史上最も強力なツールでもあり、悪の人々の手に完全に武装されています。一般の人々にとって、AI の追加により、あらゆる種類の詐欺や危害を防ぐことがさらに困難になりました。

想像してみてください。どんな姿や動きでも、その顔はあなた自身のものかもしれません。怖いですか?

個人がソーシャル プラットフォームに投稿した自撮り写真や動画は、AI 変面技術や AI ペイント技術によって簡単に加工され、犯罪者によってわいせつな写真や動画の「素材」として販売されたり、不正利用されたりする可能性があります。

もう一度考えてみてください、私たちが圧倒的に目にする情報は、すべてある目的のために作られ、流通しているのです。

インターネット上に流通するさまざまなスクリーンショットやチャット記録は真偽を判断することが困難ですが、「創作」にAIが加わると、スタイルは模倣でき、ロジックは一貫性があり、たゆまぬ大量生産も可能になります。情報汚染を引き起こし、ワンクリックでそれを達成します。

以下の凶悪な事件はすべてAIが応用されています。

AI「洗練された」カラーマップモデル

1. AI が生成した子供のソフトポルノ写真がソーシャル プラットフォームに掲載される

5月16日、Weiboブロガー「電脳色愛鑑定所」は、ステーションBの一部ユーザーがAIペイントツールで合成したリアル風の子供のソフトポルノ画像をアップロードしていたことが判明したと投稿した。生成された写真の中の少女たちは、露出度の高い服を着ており、わいせつな行動をしており、ユーザーはコメントや更新情報で「写真パッケージ」を共有します。

事件発覚後、ユーザーからの通報により一部の動画が棚から削除され、該当ユーザーのアカウントがブロックされました。

出典：サイバーテンブロック鑑定所

2. CP29コミック展示会の写真は猥褻な方法で撮影されました

5月6日、一部のネチズンはWeiboブロガー「Spring Short Man」に、その日の漫画展示会で撮影されたコスプレ写真に不満をフォーラム上で表明したため、AIペイントツールとLoRAモデルを使用したと投稿した（ a 素人撮影の写真を部分的に調整することで卑猥な「パンチラ」写真に「精製」する微調整モデル）。

投稿が Weibo で公開されると、21,000 回も転送されました。

出典: Weibo経由の春日背の低い男

偶然にも、5 月 3 日、ブロガーの DeadPrince は、Weibo のプライベート メッセージで、自分の自撮り写真が見知らぬ人によって LoRA モデルに加工され、絵画モデル共有ウェブサイト Civil にアップロードされ、誰かがそのモデルを使ってヌード写真を描いたことを知らされました。 。

出典: DeadPrince

AIがフェイクニュースを書く

2 月 16 日、杭州のコミュニティ オーナー グループで ChatGPT について議論されました。あるオーナーは ChatGPT を使用して偽のプレス リリースを作成しようとしましたが、その一般的な内容は「2023 年 3 月 1 日から杭州は渡航制限を解除します」でした。 。」その後、このフェイクニュースは訳の分からないグループメンバーによってスクリーンショットされて拡散され、激しい捜査にまで発展し、最終的には警察が捜査に介入し、関与した経営者が公的に謝罪するに至った。

出典: 浙江省の声

AIが有名人のふりをして不正行為を行う

「デイリー・メール」紙の報道によると、5月13日、スペインの小さな映画会社ピーボディ・フィルムズがイギリスの有名俳優ベネディクト・カンバーバッチから電話を受け、「『フアン・フー』が映画の脚本に興味があり、出演を希望している」との連絡を受けた。一緒に映画を作ります。

しかし、映画会社は何度か彼にインタビューを誘ったが、「フアン・フー」は断り、法外な取材料を提示し、先に20万ポンドを送金するよう会社に要求した。

違和感を感じた映画制作会社が「ジュアン・フー」の代理店に確認したところ、AI詐欺であることが判明しました。

映画会社スタッフによると、音声通話だけを見れば、音声の類似度は100%と高いため、相手が「クアン・フー」であると完全に確信しているという。

AIが顔を変えてわいせつな動画を生成

4 月 26 日、インターネット有名人「Caro Lailai_」は、自分の偽アカウントを登録したふりをして外部のソーシャル プラットフォームに「顔を盗まれ」、ファンはお金を払えば彼女を視聴できると Weibo に投稿しました。ビデオ。

彼女はまた、有名人、ブロガー、さらにはアマチュアの多くの写真が、この方法でお金を稼ぐためにわいせつなビデオに加工されていることを発見しました。彼らは AI カスタマイズ サービスさえ提供しています。オンライン ウェブサイトの AI 技術を使用すると、「ワンストップで「服を脱ぐボタン」。

AI「ワンクリック脱衣」

3月28日、微博で「服を脱いだ女性の地下鉄写真がワンクリックでAIによって拡散された」という記事がホット検索になり、写真に写っている女性は小紅書ブロガーで、いわゆる「ヌード写真」だった。昨年7月に彼女から撮影されたもので、プラットフォーム上でユエさんが共有した写真。

元の写真では普通に服を着ていたのですが、悪意を持った何者かがAIソフトを使ってワンクリックで「脱衣」し、意図的にネット上に拡散して悪影響を及ぼしました。事件勃発後、ブロガーは関係部門に権利保護を求めた。

AIコンテンツの真贋判別は困難、国内外の監視強化

AI技術の普及により、主要なソーシャルメディアプラットフォーム上にはAIが生成したコンテンツが大量に登場していますが、AIが生成した現実の写真や動画と、区別が困難なテキスト原稿とが混在しています。 AI テクノロジーについてあまり知らないと、本当と偽を簡単に混同してしまいます。

たとえば、しばらく前に、海外のネチズンが一連の「ファッション教皇」のパロディー写真を Twitter プラットフォームに投稿し、急速に広まりました。写真の中の「偽法王」は伝統的な法衣を脱ぎ、おしゃれな白いダウンジャケットを着ており、真実を知らない通行人はこれが本物の法王の着替えだと誤解しやすいが、実際にAI描画ツールMidjourneyを使って描いたものです。

出典: @skyferrori twitter経由

この AI 生成の写真群は通行人の誤解を防ぐにはあまりにも「ホット」だったので、プラットフォームとしての Twitter は即座に写真に「AI 生成」のマークを付けました。

中国および海外に目を向けると、最近、多くのプラットフォームが AI コンテンツの監督をタイムリーにフォローアップし、人工知能関連の仕様と対策を発行しています。

1. Douyin が「人工知能生成コンテンツに関する Douyin のプラットフォーム仕様と業界の取り組み」をリリース

この業界の取り組みの記事 9 から 11 では、AI が生成したコンテンツの識別と、仮想人物を登録し、ユーザーのフィードバック チャネルを開く機能について言及しています。

9. このプラットフォームは、人工知能によって生成された統合されたコンテンツ識別機能を提供し、クリエイターがマークを付けてユーザーを区別しやすくするのに役立ちます。

10. このプラットフォームは、仮想人物を登録し、登録された仮想人物画像を保護する機能を提供します。

11. このプラットフォームは、ユーザーが違法に生成されたコンテンツを報告しやすくするためのユーザー フィードバック チャネルを提供します。

関連記事：「Douyinの新ルールが発効！」バーチャル アンカーはついに「合法」になりましたが、アイデンティティを明らかにし、本物の人間によって動かされる必要があります>>

2. Xiaohonshu がノートに AI 作成ロゴを追加

4月末、一部の小紅書ユーザーは、プラットフォームがAI生成コンテンツにマークを付け始めたことを発見し、ユーザーに信頼性を確認するよう求めた。

出典: インターネット

3. Google は、2023 年の開発者カンファレンスで AI 生成画像の透かしを発表しました

Google は、最近開催された 2023 年の開発者会議で、AI によって生成されたすべての企業画像に透かしが埋め込まれていることを確認しました。透かしは肉眼では認識できませんが、次のようなソフトウェアで読み取って使用できます。 Google 検索エンジン。このラベルは、画像が AI によって生成されたものであることをユーザーに通知するために表示されます。この機能は今後数か月以内に利用可能になる予定です。

さらに、我が国は2021年に「新世代人工知能倫理規定」を発表しました。これには、戦略的計画、政策、規制、技術基準の策定と実施、資源配分、監督とレビューなどが含まれます。そして今年3月、中国サイバースペース局は、ユーザーの権利や利益、情報の保護など、生成型AIサービスプロバイダーの行動を規制する「生成型人工知能サービス管理規定（意見募集草案）」を公布した。安全確保、技術 安全・安心など

海外に目を向けると、イタリア政府は欧州連合の一般データ保護規則に違反する懸念を理由に、今年 3 月に ChatGPT を一時的に禁止しました。 5月16日、OpenAI CEOのサム・アルトマン氏も米国上院でAI技術の潜在的な危険性について証言し、GPT-4などの高度なAIシステムを開発する組織に対してライセンス要件やその他の規制を導入するよう議員に促した。

OpenAI の CEO が米国議会議事堂に現れ、AI の規制を求めました。出典: インターネット

これらの侵害のほとんどは依然として情報分野にあることがわかります。一方で、物質的な観点から見ると、これは比較的所有者のない公開情報であり、もともと夕食後の街頭で議論されていたものが、多くの虚偽や憶測はあるものの、ある通りからそこへ広まったに過ぎません。しかし、ソーシャルメディアが情報を拡散するのと同じように、亡命者が増加するにつれ、悪人もAIを利用して濁流を増幅させることができますが、その一方で、被害者の視点から見ると、彼らのほとんどは話すことが困難な一般人であり、そして誰も彼らの陳述書を読むことはなく、法的な手紙を送ることはさらに困難です。法律、規制、プラットフォームは AI テクノロジーの監督を強化していますが、一般の人々の権利保護のコストは依然として非常に高いです。

問題は悪者に戻ります。彼らがインターネットの後ろに隠れるとき、彼らが手に持っているナイフを制御することが必須になります。

ps.明日は520です

、ロマンチックな AI プレイヤーとして、バラを見逃すわけにはいきません。

「ナンバーワン AI プレイヤー」公開アカウントのバックエンドでキーワード "520" または "521" に返信すると、ブラインド ボックス ローズがランダムに生成されますAIによる

以上があなたの自撮り写真も「猥褻画像素材ライブラリ」に登録されるかも AIの悪は実はあなたのすぐそばに！の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。