AGIとAIのスーパーインテリジェンスは、人間の天井の仮定の障壁に急激に衝突するでしょう

それについて話しましょう。

革新的なAIブレークスルーのこの分析は、さまざまなインパクトのあるAIの複雑さを特定して説明するなど、最新のAIで進行中のForbesカラムカバレッジの一部です（こちらのリンクを参照）。

AgiとAsiに向かっています

まず、この重い議論の段階を設定するには、いくつかの基本が必要です。

AIをさらに進めるために、多くの研究が行われています。一般的な目標は、人工的な一般情報（AGI）に到達するか、人工的な密集物（ASI）を達成するという伸ばした可能性にさえ到達することです。

AGIは、人間の知性と同等のものと見なされているAIであり、私たちの知性に一致するように見えます。 ASIは、人間の知性を超えたAIであり、すべてではないにしても、多くの実行可能な方法で優れているでしょう。アイデアは、ASIが毎ターン私たちを表現することで人間の周りに円を走ることができるということです。従来のAI対AGIおよびASIの性質の詳細については、こちらのリンクで私の分析をご覧ください。

AGIはまだ達成していません。

実際、私たちがAGIに到達するのか、それともAGIが何十年もの間、あるいは今から何世紀にもわたって達成できるのかについては不明です。周りに浮かんでいるAGI達成の日付は、信頼できる証拠や鉄の密接な論理によって大きく変化し、非常に根拠のないものです。 ASIは、従来のAIと一緒にいる場所に関しては、さらに青白いものを超えています。

測定スティックとしての人間の知性

どれだけ高くなっているかを尋ねる古典的な謎を熟考したことがありますか？

私はあなたが持っていると確信しています。

子供たちは両親にこの厄介な質問をします。通常の答えは、UPが地球の大気の外縁に行くということです。そのしきい値を押した後、アップは宇宙空間に進み続けます。 Upは、私たちの大気に基づいた境界のある概念であるか、拡大する宇宙の端まで行くほぼ無限の概念です。

人間の知性の性質についてのakinの質問を多少反映しているので、私はこの謎をあなたの注意に導きます：

• 人間の知性はどれくらい高くなりますか？

言い換えれば、私たちが現在展示しているインテリジェンスは、おそらく私たちの上限ではないと思われます。私たちの知性を過去の世代の知性と比較すると、世代ごとに知性を増やし続けることは確かに比較的明らかです。 2100年に生まれた人たちは、私たちが今よりも知性がありますか？ 2200年に生まれるのはどうですか？全体として、ほとんどの人は、はい、これらの将来の世代の知性は現時点で一般的な知性よりも大きいと推測するでしょう。

そのロジックを購入すると、アップ関連の側面が厄介な頭を育てます。このように考えてください。人間の知性の能力は、世代を増やし続けるでしょう。ある時点で、キャップを上げた世代が存在しますか？将来の世代は、人間の知性がこれまでに行くことができる最高のものを表しています。その後の世代は、平等な人間の知性のいずれかであるか、それ以上ではなく、それ以上ではありません。

その質問に対する答えを持ちたい理由は、制限があるかどうかを知るために現在の時間の差し迫った必要性があるからです。 AGIは人間の知性と同等にいるのに対し、Asiは超人的な知性になることを以前に指摘しました。 AGIはどこに登場しますか。そのため、ラインを引き、それだと言うことができますか？そのラインの上にあるものは、超人的または緊密なものとして解釈されるでしょう。

今のところ、人間の知性を測定スティックとして使用することは、そのラインがどれくらいの長さであるかわからないため、かすんでいます。おそらく、行が特定のポイントで終了するか、または無限に進み続けるかもしれません。

その重い考えにマインドフルな熟考を与えてください。

砂の中の線

あなたは、人間の知性の上限がなければならないと仮定したいと思うかもしれません。これは直感的に正しいと感じています。私たちはまだその制限にはまだありません（だからそう思われます！）。人類がいつかその外側の大気に到達するのに十分な長さで生きることを望んでいます。

私たちは人間の知性をトッピングポイントを持っていると仮定して、議論のためにそうするので、AGIにもトッピングポイントが必要であると宣言できます。その主張の根拠は確かに防御可能です。 AGIが人間の知性を模倣したり、何らかの形で見せたりすることで構成されており、人間の知性が最大を満たしている場合、AGIも必然的に同じ最大を満たします。それは定義的な仮定です。

確かに、私たちは必ずしも最大ポイントが何であるかをまだ知っているわけではありません。心配はありません。少なくとも、私たちは最大があるという安定した信念に着陸しました。その後、その最大の存在を把握することに注意を向けることができます。もう無限の側面にストレスを感じる必要はありません。

ねじれて豊富に変わります

AIは、人間の知性の天井の根底にある未解決の難問に関連する論争に夢中になります。 3つの注目すべき可能性を探りましょう。

第一に、人間の知性に天井がある場合、それは超人的知性が存在できないことを意味するかもしれません。

何だって？

このようになります。人間の知性の頂点に達したら、それはそれだけで、さらに上方に進む余地はありません。その時点までは、従来の人間の知性でした。私たちは超人的な知性があると誤って考えていたかもしれませんが、それは実際には従来の知性よりわずかに先の知性でした。それ自体が超人的な知性はありません。すべてが従来のインテリジェンス内にあることに限定されます。したがって、私たちが作るAIは、最終的には人間の知性よりも大きくありません。

それを熟考します。

第二に、人間の知性に天井がある場合、おそらくAIを介してその天井を超えて超人的な知性を考案することができます。

それはより簡単に思えます。本質は、人間が締めくくったということですが、それはAIも締めくくらなければならないという意味ではありません。 AIを介して、人間の知性を上回ることができるかもしれません。ニース。

第三に、人間の知性に天井がない場合、おそらく、その無限の可能性に超人的な知性が含まれていると言わざるを得ないでしょう。したがって、AGIとASIの区別は虚偽です。それは任意に描かれた線です。

Yikes、それはかなり心を曲げるジレンマです。

人間の知能キャップがあるかどうかに固定された着陸がなければ、AGIとASIを釘付けにする可能性は遠いままです。この天井の提案に対する答えはわかりません。したがって、AIの研究は、未解決のトピックについてさまざまな基本的な仮定を行う必要があります。

AI研究スタンスを取っています

AIの研究者は、多くの場合、人間の知性に関連する最大レベルがなければならないというスタンスを取っています。彼らは一般に、私たちがそれを証明できなくても最大があることを受け入れます。完全に知られていないが、もっともらしく存在する限界と見なされ、AGIとASIの間の分割線になります。 AIが人間の知的限界を超えると、私たちは超人的な領土にいることに気づきます。

In a recently posted paper entitled “An Approach to Technical AGI Safety and Security” by Google DeepMind researchers Rohin Shah, Alex Irpan, Alexander Matt Turner, Anna Wang, Arthur Conmy, David Lindner, Jonah Brown-Cohen, Lewis Ho, Neel Nanda, Raluca Ada Popa, Rishub Jain, Rory Greig, Samuel Albanie, Scott Emmons,セバスチャン・ファーカー、セバスチャン・クリエ、セントーラン・ラジャマノハラン、ソフィー・ブリッジャーズ、トビ・イジトエ、トム・エヴァリット、ビクトリア・クラコフナ、ヴィクラント・バルマ、ヴラジミール・ミクリク、ザカリー・ケントン、デイブ・オル、シェーン・レグ、アラ・グッドマン、アラ・グッドマン、ザ・アラ・グッドマン、 Arxiv 、2025年4月2日、彼らはこれらの顕著なポイント（抜粋）を作成しました。

• 「人間の天井なしの仮定：AIの能力は、最も有能な人間と平等に達したら前進することをやめません。」
• 「私たちの最初の主張は、スーパーヒューマンのパフォーマンスがいくつかのタスクで説得力を持って実証されているということです。これは、人間の能力がAIの意味のある天井を表していない具体的で明確に定義されたタスクが存在するという「概念の証明」を提供します。」
• 「2番目の主張は、AI開発がより一般主義的で柔軟なシステムへの傾向を示すことです。その結果、将来、ますます多くのタスクにわたって超人能力が出現することを期待しています。」
• 「私たちの3番目の主張は、単に、AI能力が最も有能な人間と同等に到達すると改善をやめる原則的な議論を観察しないということです。」

これらの重要な点から、研究者が超人的な知性のようなものがあるという説得力のある主張をしようとしたことを見ることができます。超人は、人間の天井を超えているもので構成されています。さらに、AIは人間の知性の天井に閉じ込められません。 AIは人間の天井を上回り、超人的な知性の領域に進みます。

超人的知性の謎

人間の知性に天井があると仮定します。それが本当なら、超人的知性は人間の知性の性質とはまったく異なるものでしょうか？言い換えれば、私たちは人間の知性が超人的な知性に到達することはできないと言っています。しかし、私たちが考案しているAIは、一般的に人間の知性の全体的な性質を中心に形作られているようです。

では、人間の知性が明らかにそうすることができないとき、人間の知性を中心に形作られているAIはどのようにして緊密なものを達成できますか？

最も頻繁に表明された回答の2つは、これらの可能性です。

• （1）それはサイジングまたは規模の問題です。
• （2）それは差別化の問題です。

怒りの謎に対する通常の最初の応答は、サイズが違いを生む可能性があることです。

人間の脳の重量は約3ポンドで、頭蓋骨のサイズに完全に限定されており、それぞれの寸法では脳が約5.5インチx 6.5インチx 3.6インチになるようになります。人間の脳は、約860億のニューロンとおそらく1,000兆のシナプスで構成されています。人間の知性は、これらのサイジングの制約の中で起こりうるものにとらえているように見えます。

AIは、おそらく数千または数百万のコンピューターサーバーと処理ユニットにわたって実行されるソフトウェアとデータです。いつでも追加することができます。サイズの制限は、頭の中に収容されている脳ほど制約されていません。

一番下の行は、私たちが超人的な知性を示すAIを持っているかもしれない理由は、人間の脳が持っている物理的なサイズの制限を超えることだということです。ハードウェアの進歩により、より高速なプロセッサとより多くのプロセッサを代用して、AIを超人的なインテリジェンスに押し続けることができます。

2番目の応答は、AIが必ずしも人間の知性を生み出す生化学的組成に適合する必要がないということです。脳が生化学的にプレキャストであるため、超人的知性は人間では実行不可能かもしれません。 AIは、AI機能を人間の機能と区別するあらゆる種類の新しいアルゴリズムとハードウェアを活用するために、簡単に考案および修正できます。

未知に向かっています

サイズと差別化に関するこれらの2つの考慮事項もコンサートで機能する可能性があります。 AIがスケーリングの側面と、AIが知性を模倣または表現する方法の差別化の両方のために、知的に超人的になる可能性があります。

ホグウォッシュ、いくつかの勧め。 AIは人間によって考案されています。したがって、AIは人間ができるよりもうまくいくことはできません。 AIはいつか人間の知性の最大に到達し、それ以上進まないでしょう。期間、物語の終わり。

おっと、レトルトが来る。人類が飛ぶ方法を考え出すことを考えてください。鳥のように腕を羽ばたくことはありません。代わりに、飛行機を考案しました。飛行機が飛ぶ。人間は飛行機を作ります。エルゴ、人間は明らかに自分の制限を超えることができます。

同じことがAIにも当てはまります。人間はaiを作ります。 AIは人間の知性を示し、ある時点で人間の知性の上限に到達します。その後、AIはさらに人間の知性の限界を超えて、超人的な知性に進みます。人間はそうすることができないにもかかわらず、人間は飛ぶAIを作ることができると言うかもしれません。

今のところ、この魅力的なトピックについての最後の考え。アルバート・アインシュタインはこれを有名に言った：「宇宙と人間の愚かさの無限である2つのことだけが、前者については確信がありません。」かなり生意気なコメント。先に進んで、AIがAGIになり、おそらくいくつかの深刻な審議になるという問題を与えますが、すべての人類が答えが何であるかに依存するかもしれないので、冷静に思慮深いままです。

以上がAGIとAIのスーパーインテリジェンスは、人間の天井の仮定の障壁に急激に衝突するでしょうの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。