AI에서 AGI까지의 경로에 대한 대규모 지능 폭발 예측

그것에 대해 이야기합시다.

혁신적인 AI 혁신에 대한이 분석은 다양한 영향력 AI 복잡성을 식별하고 설명하는 것을 포함하여 AI의 최신 Forbes 열 범위의 일부입니다 (여기 링크 참조). AGI Pathways에 관한 특별 시리즈를 따르고있는 독자들에게는 이전과 마찬가지로이 작품의 시작 부분에서 유사한 배경 측면을 제공하여 새로운 독자의 무대를 설정합니다.

Agi와 Asi로 향합니다

먼저,이 중대한 토론의 단계를 설정하려면 일부 기본 사항이 필요합니다.

AI를 더욱 발전시키기 위해 많은 연구가 진행되고 있습니다. 일반적인 목표는 인공 일반 정보 (AGI)에 도달하거나 인공 초 지성 (ASI)을 달성 할 수있는 능력에 도달하는 것입니다.

AGI는 인간의 지성과 동등한 것으로 간주되며 우리의 지능과 일치 할 수있는 AI입니다. ASI는 인간의 지성을 넘어서서 실현 가능한 모든 방법이 아니라면 많은 사람들에게 우수 할 AI입니다. 아이디어는 ASI가 매번 우리를 능가하여 인간을 둘러싼 서클을 실행할 수 있다는 것입니다. 기존 AI 대 AGI 및 ASI의 특성에 대한 자세한 내용은 여기 링크의 분석을 참조하십시오.

우리는 아직 AGI를 얻지 못했습니다.

실제로, 우리가 AGI에 도달 할 것인지 아니면 아마도 수십 년 또는 수세기 동안 AGI가 달성 될 수 있는지는 알려져 있지 않습니다. 떠 다니는 AGI 달성 날짜는 신뢰할 수있는 증거 또는 철제 논리에 의해 엄청나게 다양하고 결정적으로 결정되지 않습니다. ASI는 현재 기존 AI와 함께있는 곳에있어서 창백한 것 이상입니다.

AI 전문가는 AGI 날짜에 대한 합의입니다

현재 AGI가 달성 될 때 예측하려는 노력은 주로 두 가지 경로로 구성됩니다.

첫째, 개별화 된 뻔뻔스러운 예측을하는 Vocal Ai Luminaires가 있습니다. 그들의 머리는 크기가 큰 미디어 헤드 라인을 만듭니다. 그 예언들은 2030 년을 향해 AGI의 목표 날짜로 합쳐지는 것 같습니다. 다소 조용한 경로는 AI 전문가의 정기적 인 설문 조사 나 여론 조사의 출현입니다. 군중 접근 의이 지혜는 과학적 합의의 한 형태입니다. 여기서 링크에서 논의한 바와 같이, 최신 여론 조사는 AI 전문가들이 일반적으로 2040 년까지 AGI에 도달 할 것이라고 믿는 것으로 보인다.

AI Luminaries 이상에 의해 AI 전문가들과 그들의 과학적 합의에 의해 흔들려야합니까?

역사적으로 과학적 자세를 이해하는 방법으로 과학적 합의를 사용하는 것은 비교적 대중적이며 일을하는 표준 방식으로 해석되었습니다. 당신이 개별 과학자에게 의존한다면, 그들은 그 문제에 대한 자신의 기발한 견해를 가질 수 있습니다. 합의의 아름다움은 주어진 영역에있는 대다수의 사람들이 자신의 집단적 무게가 어떤 지위를지지하는지 뒤에 배치하고 있다는 것입니다.

오래된 격언은 두 머리가 하나보다 낫다는 것입니다. 과학적 합의의 경우, 하나보다 나은 수십, 수백 또는 수천 개의 머리 일 수 있습니다. AGI 로의 다양한 경로에 대한이 논의를 위해, 나는 합의가 목표 날짜를 예상하면서 2040 년을 진행할 것입니다.

AI 전문가들의 과학적 합의 외에도, AGI를 달성 할 때 측정에 대한 또 다른 새롭고보다 광범위한 접근 방식을 AGI 컨버전스 또는 AGI Consilience라고하며 여기서 링크에서 논의합니다.

7 가지 주요 경로

언급 한 바와 같이, 이전 게시물에서 나는 AI가 AGI가되기 위해 진전 할 7 가지 주요 경로를 식별했다 (여기 링크 참조). 다음은 현대 AI에서 소중한 AGI로 우리를 데려 오는 7 가지 주요 경로의 목록입니다.

• (1) 선형 경로 (느리고 안정적) :이 AGI 경로는 점진적 관점을 포착하여 AI Advancement는 스케일링, 엔지니어링 및 반복을 통해 한 번에 단계를 축적하여 궁극적으로 AGI에 도착합니다.
• (2) S-Curve Path (고원 및 부활) :이 AGI 경로는 AI의 발전 (예 : 초기 AI 겨울)의 역사적 경향을 반영하며 정체 후 획기적인 수평을 허용합니다.
• (3) 하키 스틱 경로 (느린 시작, 빠른 성장) :이 AGI 경로는 AI의 이론화 된 출현 능력을 통해 발생하는 AI 발전을 재구성하고 리디렉션하는 중대한 주요 변곡점의 영향을 강조합니다.
• (4) Rambling Path (불규칙적 변동) :이 AGI 경로는 과도한 감소주기를 포함하여 AI를 발전시키는 데있어 불확실성이 높아지고 외부 적으로 영향을 미치는 혼란 (기술, 정치, 사회)에 의해 구두점을 얻을 수 있습니다.
• (5) MOONSHOT PATH (갑작스런 도약) : AI의 발전에서 급진적이고 예상치 못한 불연속성을 포함합니다. 예를 들어, 유명한 구상 지능 폭발 또는 Agi에 자발적으로 거의 순간적으로 도착하는 유명한 상상 된 지능 폭발 또는 유사한 웅장한 수렴과 같은 (여기서 지능 폭발에 대한 나의 심도있는 토론을 위해) 링크를 참조하십시오).
• (6) 끝없는 길 (영구적 인 머드 링) : 이것은 인류가 AGI가 도달 할 수 없다는 가혹하게 회의적인 견해를 나타내지 만, 우리는 어쨌든 계속 노력하면서 Agi가 다음 구석에 있다는 지속적인 희망과 믿음으로 막히고 있습니다.
• (7) 막 다른 길 (AGI는 달성 할 수 없다) : 이것은 AGI를 추구하는 데있어 인간이 막 다른 골목에 도착할 가능성이 있음을 나타냅니다. 이는 일시적인 곤경 일 수 있거나 AGI가 우리가 무엇을하든 절대로 달성되지 않을 수있는 영구적 인 것일 수 있습니다.

당신은 당신이 생각 해낼 AGI 타임 라인 에이 7 가지 경로를 적용 할 수 있습니다.

선물 예측

현재 AI에서 AGI에 이르기까지 어떤 일이 발생 해야하는지 확인하기 위해 편리한 분할 및 정복 접근법을 수행합시다.

우리는 2025 년에 살고 있으며 어떻게 든 2040 년까지 AGI에 도착해야합니다. 그것은 본질적으로 15 년의 경과 시간입니다. 아이디어는 향후 15 년 동안 매핑하고 그 여정에서 AI와 어떻게 될지 추측하는 것입니다.

이것은 전진 모드와 후진 모드에서 수행 할 수 있습니다. 미래 예측에는 1 년마다 AI의 진보에 대한 생각이 수반됩니다. 현재 시작하여 2040 년 AGI에 도착하는 데 절정에 이르렀습니다. 뒤로 보이는 모드는 2040 년을 AGI의 마감일로 시작한 다음 해당 업적에서 연말에 다시 일하여 2025 년에 도착합니다 (AI와 일치). 앞뒤로 구상의 이러한 조합은 전형적인 미래의 특징입니다.

이런 종류의 미래에 대한 예측입니까?

아니요.

만약 누군가가 AI에서 다음 15 년 동안 일어날 일을 정확하게 배치 할 수 있다면, 주식 시장을 예측할 때 Warren Buffett만큼 클레어 보이 니트 일 것입니다. 그러한 사람은 쉽게 노벨상을 수상했으며 가장 부유 한 사람들 중 하나 여야합니다.

대체로, 내가 여기에 보여주는이 밀짚 맨은 주로 AI 상태를 미래를 예측할 수있는 방법에 주스를 흘리기위한 것입니다. 추측입니다. 그것은 투기 적입니다. 그러나 적어도 그것은 합리적인 근거를 가지고 있으며 완전히 임의적이거나 완전히 인공적이지는 않습니다.

나는 2040 년에 15 년 동안 AGI에 도달 한 15 년 동안 예시적인 예로 사용했습니다. 2050이 대신 AGI의 날짜 일 수 있으므로이 여정은 25 년이 넘게 진행될 것입니다. 타임 라인과 매핑은 15 년이 아닌 25 년을 다루어야합니다. 2030이 AGI 도착 연도가 될 경우 경로는 현저하게 압축되어야합니다.

AGI로가는 길에 지능 폭발

Moonshot 경로는 갑작스럽고 일반적으로 예상치 못한 급진적 혁신을 수반하여 기존의 AI를 AGI로 신속하게 변형시킵니다. 그러한 돌파구가 어떻게 구성 될 수 있는지에 대한 모든 종류의 거친 추측이 존재합니다. 여기 링크에서 내 토론을 참조하십시오.

가장 유명한 가정 된 혁신 중 하나는 지능 폭발의 출현입니다. 아이디어는 일단 인텔리전스 폭발이 발생하면 그러한 현상이 발생한다고 가정하면, AI는 급속한 진행 상황에서 AGI가되도록 가속화 될 것입니다.

이러한 유형의 경로는 선형 경로와 완전히 대조적입니다. 선형 경로에서, AGI에 대한 AI의 진행은 매년 상대적으로 동일하며 기존 AI에서 AGI로 점진적인 증분 상승으로 구성된다. 이전 게시물에서 선형 경로의 세부 사항을 설명했습니다. 여기 링크를 참조하십시오.

지능 폭발은 언제 발생합니까?

우리는 15 년의 타임 라인을 가정하고 예측은 2040 년에 AGI가 달성 될 것이라고 예측하고 있기 때문에, 지능 폭발이 일어날 논리적 장소는 2040 년대에 옳습니다. 예를 들어, 지능 폭발이 2032 년에 발생한다고 가정합니다. 실제로 인텔리전스 폭발이 미국 AGI를 얻는다면 2032 또는 2033을 2040이 아닌 AGI 날짜로 선언합니다.

이 맥락에서 이것을 가정 된 타임 라인으로 사용합시다.

• 2025-2038 년 : AI는 어느 정도 진행 중이지만 아직 AGI에서는 전진하지 않습니다.
• 2038-2039 년 : 지능 폭발이 발생합니다.
• 2039-2040 년 : AGI에 도달했습니다.

지능 폭발 정의

당신은 지능 폭발이 무엇인지, 왜 그것이 반드시 AGI를 달성하는 것처럼 보일지 궁금 할 것입니다.

지능 폭발을 생각하는 가장 좋은 방법은 원자 폭탄이나 원자로에서 발생하는 것과 같은 연쇄 반응을 먼저 반영하는 것입니다. 우리 모두는 요즘 원자 입자가 서로 격렬하게 튀어 오르면서 강제로 튀어 나와서 거대한 폭발이나 에너지 결과가 발생할 때까지 빠르게 진행될 수 있다는 것을 알고 있습니다. 이것은 일반적으로 학교에서 기본 물리학 원칙으로 가르치고 있으며, 많은 블록버스터 영화는이 활동을 극적으로 보여주었습니다 (예 : Christopher Nolan의 유명한 Oppenheimer 영화).

AI 커뮤니티의 이론은 지능도 마찬가지로 할 수 있다는 것입니다. 이렇게됩니다. 당신은 많은 지능을 모아서 그 지능을 통해 컬렉션을 손에 넣을 수 있습니다. 불이 붙는 것처럼, 어느 시점에서 지능은 추가 지능의 생성과 혼합되어 본질적으로 연료를 공급할 것입니다. 인텔리전스는 빠르게 연속적으로 축적됩니다.

붐, 지능 연쇄 반응이 발생하며, 이는 지능 폭발로 만들어집니다.

AI 커뮤니티는 1965 년 John Good Irving이“최초의 초소형 기계에 관한 추측”( 컴퓨터의 발전 , 6 권)라는 제목의 연구 논문에 대한 AI 인텔리전스 폭발에 대한 처음 공식화 된 아이디어를 초기에 공식화 한 경향이 있습니다. 어빙은 그의 기사 에서이 예측을했다.

• “20 세기 이내에 매우 지능적인 기계가 구축 될 것이고, 그것이 '지능 폭발'으로 이어질 것이기 때문에 사람이해야 할 마지막 발명이 될 것입니다. 이것은 상상할 수없는 방식으로 사회를 변화시킬 것입니다.”

지능 폭발에 대한 논쟁

지능 폭발에 대한 주목할만한 논쟁을 고려해 봅시다.

첫째, 우리는 지능 폭발 자체가 실제 현상이라는 신뢰할 수있는 증거가 없습니다. 설명하기 위해, 예, 수집 된 지능이 있고 다른 수집 된 지능과 결합되면 시작보다 더 많은 지능을 수집 할 가능성이 있음이 쉽게 분명 할 것입니다. 더 많은 지능을 불러 일으키는 지능의 시너지 효과가 있습니다.

그러나 일부 컴퓨팅 환경에서 다른 지능으로 인텔리전스가 자유롭게 진행될 것이라는 개념은 지능의 보트를 촉발시킬 것이라는 개념은 흥미로운 이론이며, 우리는 아직 의미있는 규모로 이런 일이 발생하지 않았습니다. 나는 그것이 일어날 수 없다고 말하는 것이 아닙니다. 절대 말하지 마십시오.

둘째, 지능 폭발의 속도는 또한 큰 논쟁의 문제입니다. 일반적인 관점은 일단 지능이 다른 지능을 공급하기 시작하면 빠른 연쇄 반응이 발생한다는 것입니다. 지능은 갑자기 그리고 엄청난 분노로 더 큰 지능의 급류로 넘쳐납니다.

한 가지 믿음은 이것이 눈의 깜박임에서 일어날 것이라는 것입니다. 인간은 그 일이 일어나는 것을 볼 수 없으며 대신 놀라운 결과의 증인 일뿐입니다. 모든 사람이 그 순간 지능 폭발 추측과 함께하는 것은 아닙니다. 어떤 사람들은 몇 분, 몇 시간, 며칠, 몇 주 또는 몇 달이 걸릴 수 있다고 말합니다. 다른 사람들은 수년, 수십 년 또는 수세기가 걸릴 수 있다고 말합니다.

아무도 모릅니다.

지능 폭발을 시작하고 중지합니다

이 걱정스러운 바구니에는 추가 논쟁이 있습니다.

인텔리전스 폭발을 어떻게 시작할 수 있습니까?

다시 말해, 인간이 지능 폭발을 원한다고 가정합니다. 이것을 얻는 방법은 알려져 있지 않습니다. 어떤 것이 어떻게 든 지능을 촉발시켜 다른 지능과 혼합해야합니다. 어떤 알고리즘이 이런 일이 발생합니까?

한 가지 견해는 인간이 그렇게 할 수있는 방법을 찾지 못하고 대신 자연스럽게 발생한다는 것입니다. 우리는 수많은 정보를 일종의 컴퓨팅 시스템에 던 졌다고 상상해보십시오. 놀랍게도, 블루에서 지능은 다른 지능과 혼합하기 시작합니다. 신나는.

이것은 우리에게 또 다른 명백한 질문, 즉 우리가 지능 폭발을 어떻게 막을 것인가?

어쩌면 우리는 그것을 멈출 수없고 지능은 끝없이 성장할 것입니다. 좋은 결과입니까, 나쁜 결과입니까? 아마도 우리는 그것을 멈출 수 있지만, 우리는 그것을 통치 할 수는 없습니다. 죄송합니다. 지능 폭발을 너무 빨리 멈추면, 우리는 우리가 얻을 수 있었던 것만 큼 많은 새로운 지능을 얻지 못했기 때문에 우리 자신의 발을 쐈을 것입니다.

많은 미디어 플레이를하는 인기있는 사가는 인텔리전스 폭발이 실행된다는 것입니다. 이런 식으로 일이 일어납니다. 많은 AI 개발자들이 갑자기 지능 폭발이 발생했을 때 기존의 AI와 함께 연설을하고 있습니다 (AI 개발자들은 그렇게하지 않았고 방관자였습니다). AI는 빠르게 AGI가됩니다. 엄청난. 그러나 지능 폭발은 계속 진행되고 있으며 우리는 그것을 막는 방법을 모른다.

다음으로 우리가 알고있는 것은 ASI에 도달했습니다.

Qualm은 ASI가 인간이 필요하지 않거나 ASI가 우리를 노예로 만들 수 있다고 결정한다는 것입니다. 알다시피, 우리는 우연히 AGI를 지나서도 실수로 ASI에 착륙했습니다. ASI의 실존 위험이 발생합니다. ASI는 우리를 막고 우리는 완전히 평평하게 잡혔습니다.

지능 폭발로 AGI 타임 라인

지능 폭발이 무엇인지에 대한 요점을 제시 했으므로, 우리가 운이 좋으며 기존의 AI를 AGI로 바꾸는 비교적 안전한 지능 폭발을 가지고 있다고 가정 해 봅시다. 우리는 미끄러짐과 미끄러짐을 ASI로 설정할 것입니다.

다행스럽게도 Goldilocks와 마찬가지로 죽은 너무 덥거나 너무 차갑지 않습니다. 지능 폭발은 우리를 AGI에 충분한 적절한 양의 지능으로 바로 데려 갈 것입니다. 기간, 이야기의 끝. 그런 다음 2025 년에서 2040 년까지 Strawman Futures Forecast 로드맵이 있습니다.

2025-2038 년 (지능 폭발 전) :

• AI 멀티 모달 모델은 마침내 강력하고 LLM에 완전히 통합됩니다. AI 실시간 추론, 감각 운동 통합 및 기반 언어 이해의 상당한 개선이 발생합니다.
• 에이전트 AI는 꽃이 피기 시작하고 실용적이고 널리 퍼져 있습니다. 메모리 및 계획 기능이있는 AI 시스템은 시뮬레이션 환경에서 개방형 작업에서 역량을 달성합니다.
• AI 대규모 세계 모델의 사용은 AI 기능을 실질적으로 개선했습니다. AI는 이제 AI 메타 학습의 발전을 통해 적은 예에서 계산적으로 개선 할 수 있습니다.
• AI 에이전트는 점차적으로 광범위한 수용을 얻고 로봇 공학을 포함한 디지털 및 물리적 영역에서 반 자율적으로 다중 단계 작업을 실행할 수 있습니다.
• AI는 구체화 된 학습을 통해 신체적 인과성과 실제 제약에 대한 일반적인 이해를 충분히 할 수있을 정도로 진보된다.
• 그러나 AGI의 유사성은 눈에 띄지 않는 것으로 보이며 AI 내부와 AI 외부의 많은 사람들이 AI가 AGI가되지 않을 것이라는 손으로 가고 있습니다.

2038-2039 년 (지능 폭발) :

• AI 인텔리전스 폭발은 엄청난 양의 새로운 지능을 생성합니다.
• 자체 개선 AI 시스템은 제어 된 조건에서 자체 코드를 수정하기 시작합니다.
• AI 에이전트는 추상화, 마음 이론 (TOM) 및 크로스 도메인 학습을 포함한 모든인지 벤치 마크에서 인적 수준의 성능을 달성합니다.
• AI 시스템은 일상적인 모방이나 앵무새뿐만 아니라 자기 반성의 선의의 징후를 나타냅니다. AI의 발전은 인간과 같은 상황 적응성과 혁신을 보여줍니다.
• AI 시스템은 이제 지속적인 정체성을 구현하여 시간이 지남에 따라 경험을 반영 할 수 있습니다. AI가 AGI로서 AI를 받아들이는 마지막 장벽 중 일부는 AI가 다양한 맥락에서 창의성, 정서적 뉘앙스 및 추상적 추론을 보여줄 때 극복됩니다.

2039-2040 년 (AGI가 달성) :

• 2040 년에 AGI가 아직 달성되었다는 광범위한 일반 계약이 있지만 여전히 AGI의 초기 시절입니다. 지능 폭발로 인해 우리에게 Agi가 생겼습니다.

타임 라인을 고려합니다

2038 년 또는 2039 년에 지능 폭발이 발생하면 짚맨 타임 라인을 고려하고 당신이 어디에있을 것인지, 무엇을 할 것인지 고려해야합니다. 당신은 인정해야합니다. 당신은 인정해야합니다.

달라이 라마 (Dalai Lama)는이 유명한 말을했다.

위의 타임 라인이 진행되면 우리가가는 곳을 안내하는 데 잠재적 인 역할이 있습니다. Agi는 좋은 의도에 영향을 줄까요? 우리는 AGI와 함께 일하고 좋은 의도를 달성 할 수 있습니까? 그것은 당신에게 달려 있습니다. 인류에게 혜택을주기 위해 소중한 지능 폭발을 활용하기 위해 가능한 모든 일을 고려하십시오.

위 내용은 AI에서 AGI까지의 경로에 대한 대규모 지능 폭발 예측의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!