ChatGPT は人気がありますが、10 個の生成 AI の欠陥が懸念されます。

科学技術関係者による数十年にわたる絶え間ない努力を経て、現実世界の人工知能はついに臨界点に達しました。 ChatGPT や DALL-E などの AI モデルの驚くべきパフォーマンスにより、多くの人は、ますます賢くなっている AI システムが人間に追いつきつつあると感じています。

生成 AI の機能は非常に多様かつ独特で、機械から来たものとは信じられません。しかし、センス・オブ・ワンダーが薄れれば、生成 AI のスターパワーも薄れます。 AI は、一部のアプリケーションでは場面認識や常識の限界も示しており、現在、多くの人が生成型 AI の欠点や欠点に注目したり、懸念したりしています。

ここでは、人々が懸念している生成 AI の 10 の欠点または欠点を紹介します。

1. 盗用されたコンテンツ

研究者が DALL-E や ChatGPT などの生成 AI モデルを作成する場合、これらは実際にはトレーニング セットからの数百万の例にすぎません 新しいスキーマが作成されました例では。その結果、さまざまなデータ ソースから抽出したカット アンド ペーストが合成されたものになります。これは「盗作」として知られる人間の行為です。

もちろん、人間は模倣を通じて学習しますが、場合によっては、この種の盗作は望ましくなく、さらには違法です。生成 AI によって生成されるコンテンツは大量のテキストで構成されており、一部のコンテンツは多かれ少なかれ盗用されています。ただし、場合によっては、十分なミキシングや合成が必要になるため、大学教授でさえ真のソースを検出するのが難しい場合があります。いずれにしても、生成されるコンテンツに欠けているのは独自性です。それらは強力に見えますが、真に革新的な製品を生み出しているわけではありません。

2. 著作権の問題

盗作は学校が避けようとする問題ですが、著作権法は市場にも適用されます。誰かが他人の知的財産や著作物を盗むと、訴訟を起こされたり、数百万ドルの罰金を科せられたりする可能性があります。しかし、AI システムについてはどうでしょうか? 同じルールが適用されるのでしょうか? 著作権は複雑な問題であり、生成 AI の法的地位が決定されるまでには何年もかかります。しかし、覚えておく必要があるのは、AI が人間の仕事の一部を置き換え始めると、著作権規制に基づいて訴訟が起こされることになるということです。

生成型 AI によって引き起こされる法的問題は、盗作や著作権侵害だけではなく、一部の弁護士は、人工知能によって引き起こされる倫理をめぐって訴訟を起こしています。あい。たとえば、描画プログラムを作成する企業は、ユーザーの描画行動に関するデータを収集し、そのデータを AI トレーニングの目的で使用しますか? 人間は、この創造的な労働の使用に対して報酬を得る必要がありますか? AI の成功の多くは、データを理解することから生まれます。アクセス。では、データを生成した人間がデータから利益を得ようとすると何が起こるでしょうか? では、公平とは何でしょうか? 合法とは何でしょうか?

AIは、人間が発達するのに何年もかかるような知能を模倣するのが得意です。人類学者が17世紀の無名の芸術家を紹介したり、芸術家がほとんど忘れられていたルネサンス調の新しい音楽を作曲したりすると、人々はその高度な知識と技術を賞賛しますが、それには何年もの研究と実践が必要です。わずか数か月のトレーニングで AI が同じことを実行できるようになると、その結果は信じられないほど正確で正しいものになる可能性がありますが、常に何かが欠けているように感じられます。

よく訓練されたAIシステムの機械は、大量の情報を取得することで特定のことを理解し、マヤの象形文字を解読することもできます。 AIは人間の創造性の楽しくて予測不可能な側面を模倣しているように見えますが、実際にはそれができません。同時に、予測不可能性は創造的なイノベーションの原動力となります。ファッションのような業界は変化にこだわるだけでなく、変化によって定義されます。実はAIも人間もそれぞれ得意分野があります。

インテリジェンスに関して言えば、AI は本質的に機械的でルールベースです。 AI システムが一連のデータでトレーニングされると、実際には変化しないモデルが作成されます。一部のエンジニアやデータ サイエンティストは、AI が適応することを学習できるように、時間をかけて AI モデルを徐々に再トレーニングすることを構想しています。

しかし、ほとんどの場合、アイデアは、特定の知識を固定形式でエンコードする複雑なニューロンのセットを作成することです。これは一部の業界に当てはまるかもしれません。 AI の危険性は、AI の知能の成長が常にトレーニング データの制限に囚われてしまうということです。人間が生成 AI に依存しすぎて、モデルをトレーニングするための新しい素材を提供できなくなったら何が起こるでしょうか?

AI のトレーニングには大量のデータが必要ですが、人間はニューラル ネットワークの結果がどうなるか必ずしもわかりません。 AI がそのトレーニング データから個人情報を漏洩したらどうなるでしょうか? さらに悪いことに、AI は非常に柔軟に設計されているため、制御がはるかに困難になります。リレーショナル データベースでは、個人情報を含む特定のテーブルへのアクセスを制限できます。ただし、AI は何十もの異なる方法でクエリを実行できます。

サイバー攻撃者は、必要な機密データを取得するために、適切な質問を適切な方法で行う方法をすぐに学びます。サイバー攻撃者が特定の施設の緯度と経度をターゲットにしていると仮定すると、AI システムはその場所の正確な時刻を尋ねられ、良心的な AI システムがその質問に答えることができるかもしれません。したがって、個人データを保護するためにAIをどのように訓練するかも難しい問題です。

7. バイアスの生成

初期のメインフレーム プログラマーでさえ、コンピューターの問題の核心を理解しており、「ガベージ イン、ガベージ アウト」(GIGO) という概念を生み出しました。 AI に関する問題の多くは、トレーニング データが不十分であることに起因します。データセットが不正確または偏っている場合、それが出力に反映されます。

生成 AI のコア ハードウェアはロジックによって駆動されますが、マシンを構築してトレーニングする人間はロジックによって駆動されません。バイアスとエラーが AI モデルに入り込むことが示されています。おそらく誰かが偏ったデータを使用してモデルを作成したのか、特定の注目の質問に回答できないように AI をオーバーライドしただけなのか、AI システムに偏りをもたらすような定型の回答を入力したのかもしれません。

8. AI も間違いを犯します

AI モデルの間違いを許すのは簡単です。なぜなら、AI モデルは他の多くのことをうまく行うからです。ただ、間違いが多いだけです。 AI は人間とは異なる考え方をするため、予測します。たとえば、テキストから画像への変換機能の多くのユーザーは、AI が数を数えるなどの非常に単純なことで間違いを犯すことに気づきました。

人間は小学校から算数の基礎を学び、その後そのスキルをさまざまな方法で活用します。たとえば、10 歳の子供にタコの絵を描くように依頼すると、通常、タコには 8 本の足があると判断します。現在のバージョンの AI モデルは、数学的な抽象化と状況に応じたアプリケーションに関して行き詰まる傾向があります。モデル作成者がこのエラーに注意を払えば、この状況は簡単に変更できますが、他のエラーもあります。機械の知能は人間の知能とは異なるため、機械が犯す間違いも異なります。

9. 人間を欺く

人間は、誤りに気付かずに AI システムに騙される傾向がある場合があります。たとえば、イギリス国王ヘンリー 8 世が妻を殺害したと AI が人間に告げた場合、人間はこの歴史も理解していない可能性があるため、通常はそれを信じるでしょう。人々は、AI が提供する答えが真実で正しいと思い込む傾向があります。

生成 AI のユーザーにとって、最も困難な問題は、AI システムにいつ問題が発生したかを知ることです。機械は人間よりも嘘をつく能力が低いと考えられているため、さらに危険になります。 AI システムは、完全に正確なデータを書き出した後、推測や嘘に頼ることがあり、多くの場合、何が起こっているのか人間にはわかりません。中古車ディーラーやポーカープレイヤーは、いつ嘘をついているかを知る傾向があり、ほとんどの人はどこで嘘をついているかを教えてくれますが、AIにはそれができません。

10. 無限の複製可能性

デジタル コンテンツは無限に複製可能であり、希少性に基づいて構築された多くの AI モデルを圧倒します。生成 AI は、これらのパターンをさらに打ち破るでしょう。生成型 AI は一部の作家やアーティストを失業させ、私たちが従う経済ルールの多くをひっくり返すでしょう。

広告とコンテンツを常にリミックスして更新できる場合でも、広告でサポートされたコンテンツは効果的でしょうか? インターネットの無料部分は、すべてジェネレーティブ AI によって駆動される「Web 広告をクリックするボット」の世界に突入するのでしょうか?

無限の豊かさはデジタル経済を破壊する可能性があります。たとえば、代替不可能なトークンをコピーできたら、人々はそのトークンにお金を払い続けるでしょうか? 芸術作品を作るのがとても簡単だったとしても、それは依然として尊重されるでしょうか? それは依然としてユニークなものでしょうか? すべてが当たり前のものとみなされると、すべての価値は失われますか? ?

これらの質問に自分で答えようとするのではなく、生成 AI に興味深く奇妙な答えを求めてください。

以上がChatGPT は人気がありますが、10 個の生成 AI の欠陥が懸念されます。の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。