人工知能はインターネット上のフェイクニュースと偏見をどのように排除できるか

人々が聞いたり読んだりする情報は、新聞、雑誌、オンライン ソース、放送のいずれからのものであっても、不正確である可能性が常にあります。偽情報は人類文化の黎明期から存在していますが、相互接続されたオンライン世界から受け取る情報の量が膨大であるため、私たちは歪められたり改ざんされたりした情報を不用意に消費する可能性が特に高くなります。人々は、AI がフェイクニュースと偏見の問題を解決するのにどのように役立つのかという複雑さを理解する必要があります。

消費者は、インフルエンサー マーケティングや有名人の推薦など、オンラインで読んだり見たり聞いたりしたものによって自分の意見が影響を受けることに慣れています。事実に裏付けられているかどうかに関係なく、意見には大きな力があり、フェイクニュースの多くは強い感情を煽ることに依存しています。人々の注意や感情に関しては、多くの場合、立ち止まって、聞いたり読んだりしたものが正確かどうかを考える必要があります。

MIT の研究者によると、新しいウィンドウを開くと、本物のニュースが Twitter で 1,500 人に届くまでにフェイク ニュースの 6 倍の時間がかかります。さらに、正確なニュースとフェイクニュースの間のチェーンの長さ（ソーシャルメディアの投稿を共有する人の数）は非常に不均衡です。検証可能なニュースは 10 件を超えることはありませんでしたが、誤ったニュースは 19 件に増加しました。これは、悪意のある攻撃者がボットの群れを使用して誤った情報を広めていることが部分的に原因です。

偽情報は現在、世界中の人々、政府、企業に影響を与えています。今日の拡大するデジタル情報経済では、いわゆる「フェイクニュース」を発見し、分離することが重要な課題となっています。しかし、人工知能 (AI) の進歩により、オンライン情報ユーザーが現実とフィクションを区別しやすくなる可能性があります。

ここでは、人工知能を使用して誤った情報の拡散を阻止し、インターネットをよりバランスのとれたニュースソースにする方法を紹介します。

記事の評価における人工知能の役割は何ですか?

先進的なアルゴリズムを使用して、情報を吸収しやすい人々を見つけてリーチすることで、正規の企業は人工知能を使用して記事を見つけてターゲットにします情報やビューの最も可能性の高い消費者。たとえば、Google は、信頼できる結果を識別する能力を向上させるために、2015 年に RankBrain アルゴリズムを実装しました。

コンピューターで作成された資料と人間が作成した記事を区別するために、AI ベースのテクノロジーはテキスト内容の言語分析を実行し、単語のパターン、構文構造、読みやすさなどの手がかりを見つけることができます。これらのアルゴリズムは、あらゆるテキストを分析し、単語ベクトル、単語の位置、含意を調べることでヘイトスピーチのインスタンスを見つけることができます。

新しいアプリケーションとプロジェクト

フェイク ニュースのソースは通常、情報が拡散する前に違法なソースから提供されます。 Project Fandango は、人間のファクトチェッカーによって虚偽とみなされた記事を使用した後、同じ用語や主張を含むソーシャル メディアの投稿やインターネット サイトを探します。これにより、ジャーナリストや専門家は偽情報の発信源を追跡し、制御不能になる前に危険を無力化することができます。

Politifact、Snopes、FactCheck は人間の編集者を使用して、ストーリーや画像の信頼性を確認するために必要な一次調査を実施します。偽物が特定されると、AI システムは社会不安を引き起こす可能性のある同様の情報をウェブ上で検索します。さらに、コンテンツが本物であると判断された場合、アプリケーションは Web サイトの記事に評判スコアを割り当てることができます。

現在、一部の AI エンジンは評価スコアに次の尺度を使用しています。

• センチメント分析: ニュース全般または執筆する特定のトピックに対するジャーナリストの態度。

•意見分析: ジャーナリストの仕事に対する個人的な感情、意見、信念、または評価

•改訂分析: ニュース記事が時間の経過とともにどのように変化し、それが世論をどのように操作するかについての研究そして感情。

•プロパガンダ分析: プロパガンダ分析を使用すると、最大 18 の異なる説得戦略を検出でき、潜在的な偽情報を発見するのに役立ちます。

これら 4 つを組み合わせることで、記事の信頼性と私たちが直面している問題の全体像が得られます。

人工知能の課題とその克服方法

GPT-3 のような言語モデルでは、すでに 1 行のプロンプトに基づいて記事、詩、散文を作成できます。人工知能は、人間に似た素材の作成を完成に近づいています。人工知能によりあらゆる種類の情報の操作が非常に簡単になったため、FaceSwap や DeepFaceLab などのオープンソース プログラムによって、経験の浅い新規ユーザーが潜在的な社会不安の中心となる可能性があります。

これらの意味分析アルゴリズムはヘイトスピーチ画像の本質を解読できないため、これらの問題はさらに悪化します。ヘイトスピーチ画像は変更されず、有害または不正確な文脈で流通します。

不正なコンテンツが発見されると、それを削除することは、思っているよりも困難です。一部の組織は、検閲や、ある組織が虚偽であると考える情報を隠蔽しようとしていると非難される可能性があります。言論の自由の権利と偽情報やフェイクニュースとの戦いの間のバランスを見つけるのは困難です。

AI には一般に、ユーモアやいたずらを認識する能力も欠けています。したがって、フェイクニュースや偽情報が気軽に、または冗談めいた方法で使用された場合、悪意のある偽情報として分類される可能性があります。しかし、AI がフェイクニュースとの戦いにおいて大きな力となる可能性があることは否定できません。偽のインターネット ニュースとの戦いでは、膨大な量の素材を処理できるテクノロジーが非常に重要です。

フェイクニュースはアルゴリズムだけで解決できる問題ではありません。私たちは知識を得る方法について考え方を変える必要があります。生データを評価するには、専門家グループ間で協力して知識をクラウドソーシングすることが重要ですが、知識のあるユーザーのコミュニティも倫理監視の取り組みをサポートできます。

すべての当事者の参加なしに積極的な行動をとれば、機関やメディアに対する国民の信頼の喪失が加速する可能性があり、それは無政府状態の前兆となります。人間がオンライン コンテンツを客観的に分析する能力を身につけるまでは、AI ベースのテクノロジーがインターネット上の誤った情報との戦いのパートナーになる必要があります。

以上が人工知能はインターネット上のフェイクニュースと偏見をどのように排除できるかの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。