AGI和AI超級智能將嚴重擊中人類天花板的假設障礙

讓我們談談。

對創新AI突破的分析是我正在進行的AI中正在進行的福布斯列覆蓋的一部分，包括識別和解釋各種有影響力的AI複雜性（請參閱此處的鏈接）。

前往Agi和ASI

首先，需要一些基本原理才能為這個重大的討論奠定基礎。

正在進行大量研究以進一步提高AI。一般目標是達到人工通用智能（AGI），甚至達到實現人工超智慧（ASI）的伸出的可能性。

Agi是AI，它與人類的智力相提並論，並且似乎可以符合我們的智慧。 ASI是AI，它超越了人類的智力，並且在許多甚至不是所有可行的方式上都將是優越的。這個想法是，ASI能夠在各個轉彎處超越我們來圍繞人圈。有關傳統AI與AGI和ASI的性質的更多詳細信息，請參閱此處的鏈接分析。

我們尚未獲得Agi。

實際上，我們是否將到達AGI，或者AGI在數十年或幾個世紀以來都可以實現。漂浮在周圍的agi達到的日期是由於任何可靠的證據或鐵克拉德邏輯而迅速變化的，並且沒有證實。當涉及到我們目前使用常規AI的位置時，ASI更加蒼白。

人類的智力作為量表

您是否曾經思考過詢問高高高高的經典謎語？

我確定你有。

孩子們問父母這個煩惱的問題。通常的答案是，向上移到了地球大氣的外邊緣。達到該閾值後，向上繼續進入外太空。 UP要么是基於我們大氣的有限概念，要么是一個幾乎無限的概念，它的範圍與我們不斷擴展的宇宙的邊緣有關。

我引起了您的注意，因為它在某種程度上反映了關於人類智力本質的類似問題：

• 人類智力可以發揮多大？

換句話說，我們目前所表現出的智力可能不是我們的上限。如果您將我們的智能與過去的智能進行比較，那麼我們肯定會在世代相傳地增加智力時相對顯而易見。 2100年出生的人會比我們現在更聰明嗎？那2200年出生呢？總而言之，大多數人會推測，是的，這些後代的智能將比目前普遍的智能更大。

如果您購買該邏輯，那麼與棘手的方面會抬起其棘手的頭部。這樣想。人類智力的能力將在世代發展。在某個時候，存在一代人會被關閉嗎？未來的一代代表了人類智力有史以來最高的。隨後的幾代人將具有平等的人類智力，或者更少，而不是更多。

我們要回答這個問題的原因是，當前的緊迫需要知道是否存在限制。我早些時候指出，AGI將與人類的智力相提並論，而ASI將是超人的智能。 Agi在哪裡頂，以便我們可以畫一條線並說是這樣？該行之上的任何東西都將被解釋為超人或超級智能。

現在，將人類智力用作測量棒是朦朧的，因為我們不知道這條線有多長時間。也許該線在某個給定的點結束，或者也許它會保持無限的發展。

給那個沉重的想法思考。

沙灘上的線

您可能會想假設必須與人類智能有上限。這直覺感覺正確。我們還沒有達到這一限制（似乎！）。人們希望人類有一天能夠壽命足夠長，可以到達外在的氣氛。

由於我們將假設人類智能具有一個頂點，因此為了討論而這樣做，我們現在可以宣布AGI還必須有一個頂點。該主張的基礎當然是可以辯護的。如果AGI包括模仿或以某種方式表現出人類智能，如果人類智能達到最大程度，AGI也將不可避免地達到同樣的最大值。那是一個定義的假設。

誠然，我們不一定知道最大點是什麼。不用擔心，至少我們已經穩定地相信有一個最大的信念。然後，我們可以將注意力集中在弄清最大位置的位置。無需不再需要無限方面的壓力。

曲折曲折

AI陷入了與人類智能上限的尚未解決的難題有關的爭議中。讓我們探索三種顯著的可能性。

首先，如果有人類智能的上限，也許意味著不可能有超人的智能。

說什麼？

它是這樣的。一旦我們達到了人類智能的頂峰，班班，就是這樣，就沒有更多的空間來向上進行。到那時，任何事情都是常規的人類智力。我們可能會錯誤地認為存在超人的智慧，但實際上這只是智力領先於常規智能。本身沒有任何超人情報。一切都局限於傳統情報。因此，我們製作的任何AI最終都不會比人類的智力大。

仔細考慮。

其次，好吧，如果有人類情報的上限，也許通過AI，我們可以超越天花板並設計超人的智能。

這似乎更簡單。本質是人類最重要的是，但這並不意味著AI也必須加入。通過AI，我們也許能夠超越人類智能，即超越人類智能的最大限制。好的。

第三，如果沒有任何人類智能的上限，我們可能不得不說超人智力被包括在無限的可能性中。因此，AGI和ASI之間的區別是虛假的。這是任意繪製的線路。

是的，這是一個令人難以置信的困境。

沒有一些固定的降落，因為是否有人類的智能上限，釘住Agi和ASI的機會仍然超然。我們不知道這個上限命題的答案；因此，AI研究必須對未解決的主題做出不同的基本假設。

AI研究立場

人工智能研究人員經常採取立場，即必須與人類智力相關的最大水平。他們通常接受即使我們無法證明它也有最大值。完全未知但被認為存在的極限變成了AGI和ASI之間的分界線。一旦AI超過了人類的智力極限，我們就會發現自己在超人領土上。

In a recently posted paper entitled “An Approach to Technical AGI Safety and Security” by Google DeepMind researchers Rohin Shah, Alex Irpan, Alexander Matt Turner, Anna Wang, Arthur Conmy, David Lindner, Jonah Brown-Cohen, Lewis Ho, Neel Nanda, Raluca Ada Popa, Rishub Jain, Rory Greig, Samuel Albanie, Scott Emmons, Sebastian Farquhar, Sébastien Krier, Senthooran Rajamanoharan, Sophie Bridgers, Tobi Ijitoye, Tom Everitt, Victoria Krakovna, Vikrant Varma, Vladimir Mikulik, Zachary Kenton, Dave Orr, Shane Legg, Noah Goodman, Allan Dafoe, Four Flynn, and Anca Dragan, arXiv , April 2, 2025年，他們提出了這些明顯的觀點（摘錄）：

• “沒有人類的上限假設：一旦與最有能力的人類達成平等，人工智能能力將不會停止進步。”
• “我們的第一個主張是，超人的表現在幾項任務中被令人信服地證明。這提供了“概念證明”，即存在具體，明確定義的任務，該任務並不代表AI的有意義的天花板。”
• “我們的第二個主張是，人工智能發展朝著更具通才，靈活的系統表現出趨勢。因此，我們預計超人的能力將在未來越來越多的任務中出現。”
• “我們的第三個主張簡單地說，我們沒有觀察到為什麼AI能力在與最有能力的人類均等時停止改善。”

從這些關鍵點可以看出，研究人員試圖提出一個令人信服的案例，即有超人的智力。超人人類包括超出人類天花板的東西。此外，AI不會陷入人類的智力上限。 AI將超越人類的天花板，進入超人智力領域。

超人情報的奧秘

假設有人類智力的上限。如果這是真的，超人的智力會與人類智力的本質完全不同嗎？換句話說，我們說人類的智力無法達到超人的智慧。但是，我們正在設計的AI似乎通常是圍繞人類智能的整體本質而塑造的。

那麼，當人類智力顯然無法做到這一點時，圍繞人智力的AI如何才能獲得超級智能？

最常見的兩個答案是這些可能性：

• （1）這是大小或規模的問題。
• （2）這是一個差異化問題。

對憤怒的謎團的通常首先回應是，大小可能會帶來差異。

人的大腦重量約為三磅，完全局限於我們的頭骨的大小，大致使大腦在各個維度上約為5.5英寸x 6.5英寸x 3.6英寸。人腦由大約860億個神經元和1000萬億個突觸組成。人類的智力似乎堅持這些規模約束中可能發生的一切。

AI是軟件和數據，可能會跨越數千或數百萬的計算機服務器和處理單元。我們總是可以添加更多。尺寸限制的限制不如包含在我們頭部內部的大腦。

最重要的是，我們可能擁有超人智能的AI的原因是由於超出了人類大腦的身體大小限制。硬件的進步將使我們能夠替換更快的處理器和更多的處理器，以繼續將AI推向超人智能。

第二個反應是，AI不一定需要符合引起人類智力的生化成分。由於大腦在生物化學上預期，超人的智力可能對人類不可行。可以輕鬆設計和修改AI，以利用各種新型的算法和硬件，從而將AI功能與人類能力區分開來。

進入未知

大小和差異化的這兩個考慮因素也可以共同起作用。可能是AI在智力上變成超人，因為AI模仿或代表智力的方式的縮放方面以及差異化。

Hogwash，有些勸誡。 AI是由人類設計的。因此，AI不能比人類做得更好。 AI有一天將達到人類智力的最大程度，並且不再是人類的智力。時期，故事結束。

哇，反駁。考慮人類弄清楚如何飛行。我們不會像鳥那樣拍打手臂。相反，我們設計了飛機。飛機飛。人類製造飛機。 Ergo，人類可以絕對超出自己的局限性。

同樣的適用於AI。人類會成為人工智能。 AI將表現出人類的智慧，並在某個時候達到人類智能的上限。然後，AI將進一步發展為超人情報，超出了人類智能的局限性。您可能會說，即使人類不能這樣做，人類也可以製造飛行的AI。

目前，關於這個迷人的話題的最終想法。阿爾伯特·愛因斯坦（Albert Einstein）著名地說：“只有兩件事是無限的，宇宙和人類的愚蠢，我不確定前者。”非常厚臉皮的評論。繼續前進，讓AI成為AGI，可能是ASI進行一些認真的審議，但要清醒，因為所有人類都可能取決於答案是什麼。

以上是AGI和AI超級智能將嚴重擊中人類天花板的假設障礙的詳細內容。更多資訊請關注PHP中文網其他相關文章！