AI 音声ジェネレーターは次の主要なセキュリティ脅威となるでしょうか?

人工知能は、私たちの生活に革命をもたらすと約束されている強力なテクノロジーです。このことは今日ほど明白であり、インターネット接続があれば誰でも強力なツールを利用できます。

これらのツールには、人間の音声を非常によく模倣する高度なソフトウェアである人工知能音声ジェネレーターが含まれており、両者を区別して区別することは不可能です。これはサイバーセキュリティにとって何を意味しますか?

人工知能音声生成器はどのように機能しますか?

音声合成とは、人間の音声を人工的に生成するプロセスを指し、数十年前から存在しています。すべてのテクノロジーと同様に、テクノロジーも長年にわたって重要かつ大幅な変化を遂げてきました。

Windows 2000 および XP を使用したことのあるユーザーは、Microsoft オペレーティング システムのデフォルトのテキスト読み上げ男性音声である Microsoft Sam をまだ覚えているかもしれません。 Microsoft Sam のパフォーマンスは非常に満足のいくものであると言えますが、そのサウンドは非常に機械的で、非常に硬く、非常に人工的です。現在私たちがすぐに使えるツールは、主にディープラーニングのおかげではるかに高度になっています。

ディープラーニングは、人工ニューラルネットワークに基づく機械学習手法です。これらのニューラル ネットワークのおかげで、現代の AI は、人間の脳のニューロンが情報を解釈するのとほぼ同じくらい強力にデータを処理できます。言い換えれば、人工知能が人間に近づくほど、人間の行動を模倣する能力が向上します。

一言で言えば、これが最新の AI 音声ジェネレーターの仕組みです。より多くの音声データにさらされるほど、人間の音声を模倣することがより上手になります。最近の技術の進歩のおかげで、最先端のテキスト読み上げソフトウェアは、基本的に、入力された音声を複製することができます。

脅威アクターは人工知能音声生成器をどのように使用するのでしょうか?

予想通り、この手法は脅威アクターによって悪用されています。古典的な意味でのサイバー犯罪者だけでなく、偽情報工作員、詐欺師、ブラックハットマーケター、トロールも含まれます。

イレブンラボが2023年1月にテキスト読み上げソフトウェアのベータ版をリリースした瞬間、掲示板4chanの極右荒らしがそれを悪用し始めた。彼らは、この高度な人工知能技術を使用して、BBC TV の司会者デビッド アッテンボローや有名な女優エマ ワトソンなどの有名人の声を複製し、あたかもこれらの有名人が悪質で憎しみに満ちた暴言を吐いているかのように見せかけました。

IT系海外メディアViceが当時報じたように、イレブンラボ社は一部の人々が同社のソフトウェア、特に音声クローン機能を悪用していたことを認めた。この機能を使用すると、誰でも他人の声を「クローン」することができ、1 分間の録音をアップロードするだけで、残りは AI に任せることができます。おそらく、録音時間が長ければ長いほど、出力はより現実的になります。

2023 年 3 月、TikTok で拡散した動画がニューヨーク タイムズ マガジンの注目を集めました。このビデオでは、有名人ポッドキャストの司会者ジョー・ローガンと、彼の番組「ジョー・ローガン・エクスペリエンス」の常連ゲストであるアンドリュー・ヒューバーマン博士が、「性欲を高める」カフェイン飲料について話し合っています。このビデオを見ると、ローガンとヒューバーマンの両方がこの製品を明確にサポートしているように見えます。実際、彼らの声は人工知能を使用してクローン化されたものです。

同じ頃、カリフォルニア州サンタクララに本拠を置くシリコンバレー銀行がリスク管理ミスやその他の問題により破綻し、州に引き継がれた。これは2008年の金融危機以来最悪の米国銀行破綻となり、世界市場に衝撃を与えた。

人々をさらにパニックに陥らせているのが、バイデン米大統領の偽録音だ。録音では、バイデン氏が差し迫った「崩壊」を警告し、「国民を安心させるためにメディアの力を最大限に活用する」よう米政府に指示しているのがはっきりと聞こえる。ポリティファクトのような真実追求サイトはすぐにこのビデオの誤りを暴いたが、今では何百万人もの人々がその録音を聞いているかもしれない。

AI 音声ジェネレーターが有名人になりすますために使用できるのであれば、民間人になりすますためにも使用できます。これはまさにサイバー犯罪者が行っていることです。 IT系海外メディアZDNetによると、毎年数千人のアメリカ人がボイスフィッシング（ビッシング）詐欺に遭っているという。 2023年、ある老夫婦が刑務所にいると主張し、お金を要求する「孫」から電話を受けたことが全国的な見出しになった。

YouTube ビデオをアップロードしたことがある (または YouTube ビデオで紹介されたことがある) 場合、知らない人たちとの大規模なグループ電話会議に参加したことがある、または理論上、何らかの方法で自分の音声をインターネットにアップロードしたことがある場合あなたや友人、親戚が危険にさらされている可能性があるとします。詐欺師があなたの声を AI ジェネレーターにアップロードしてクローンを作成し、あなたになりすまして家族に連絡するのを防ぐにはどうすればよいでしょうか?

人工知能サウンド ジェネレーターはサイバーセキュリティの状況を一変させています

サイバーセキュリティの専門家でなくても、人工知能がサイバーセキュリティの状況に変革をもたらしていることを理解できます。間違った手 手はとても危険です。これはすべてのテクノロジーに当てはまりますが、人工知能はいくつかの理由から特有の脅威です。

まず第一に、これは比較的新しいテクノロジーであるため、それが私たちに何をもたらすのか実際にはわかりません。最新の人工知能ツールを使用すると、サイバー犯罪者は、この問題に関する一般の人々の相対的な無知を利用しながら、これまでにない方法でキャンペーンを拡大および自動化することができます。さらに、生成 AI により、知識やスキルのない攻撃者でも、悪意のあるコードの作成、欺瞞的な Web サイトの構築、スパムの拡散、フィッシングメールの作成、リアルな画像の生成、および長い形式の偽のオーディオおよびビデオ コンテンツの生成が可能になります。

重要なのは、AI を順番に活用できるということです。AI はシステムの保護にも使用されており、今後数十年にわたって使用される可能性があります。これらのツールの防御能力と攻撃能力は本質的に同等であるため、サイバー犯罪者とサイバーセキュリティ業界の間で AI 軍拡競争のようなものが起こることが予想されます。

一般の人々にとって、生成型 AI の普及により、セキュリティ慣行の完全な再考が必要になります。 AI は刺激的で便利かもしれませんが、少なくとも本物を混乱させ、最悪の場合、既存のセキュリティ問題を悪化させ、脅威アクターに新たな舞台を提供する可能性があります。

音声ジェネレーターは人工知能の破壊的な可能性を実証します

ChatGPT が市場に投入されるとすぐに、人工知能の規制に関する議論が加熱し始めました。 。このテクノロジーを抑制しようとするあらゆる試みには国際協力が必要となる可能性が高く、過去数十年で見たことのないレベルの協力が必要となるため、人工知能を抑制する可能性は低いです。

魔神がボトルから逃げ出しました。私たちにできることは、それに慣れて順応することだけです。ネットワーク セキュリティ業界がそれに対応する調整を行ってくれることを願っています。

https://www.makeuseof.com/ai-voice-generators-security-threat

以上がAI 音声ジェネレーターは次の主要なセキュリティ脅威となるでしょうか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。