힌튼, 튜링상 수상자: 나는 늙었으니 인간보다 똑똑한 AI를 조종하는 것은 당신에게 맡깁니다

'AI가 인류를 멸망시킬 수 있는가'를 놓고 전문가들이 두 진영으로 나뉘었던 것을 아직도 기억하시나요?

“AI가 위험을 유발한다”는 이유를 이해하지 못하기 때문에 Andrew Ng는 최근 Turing Award 수상자 두 명과 대화 시리즈를 시작했습니다.

AI에는 어떤 위험이 있나요?

흥미롭게도 요슈아 벤지오, 제프리 힌튼과 심도 있는 대화를 나눈 후, 그들과 '많은 공감대'를 이루었습니다!

두 사람 모두 인공 지능이 만들어낼 구체적인 위험에 대해 공동으로 논의하고 이를 얼마나 잘 이해하고 있는지 명확히 해야 한다고 믿습니다. Hinton은 또한 Turing Award 수상자 Yann LeCun을 "야당의 대표자"로 구체적으로 언급했습니다.

이 문제에 대한 논쟁은 여전히 ​​매우 치열하며 Yann과 같은 존경받는 학자들조차도 대형 모델은 자신이 표현하는 내용을 실제로 이해하지 못한다고 믿습니다.

Musk는 이 대화에도 매우 관심이 많았습니다.

또한 Hinton은 최근 Intelligent Source Conference에서 AI의 위험성에 대해 "설교"하며 인간보다 똑똑한 초지능을 표현했습니다. :

우리는 우리보다 훨씬 똑똑한 것에 대해 생각하고, 그들과 상호작용하는 방법에 익숙하지 않습니다.

나는 이제 초지능이 "통제 불능"되는 것을 어떻게 방지할 수 있을지 모르겠고, 나는 늙었습니다. 더 많은 젊은 연구자들이 초지능을 제어하는 ​​방법을 터득하기를 바랍니다.

이러한 대화의 핵심 내용과 이에 대한 다양한 AI 전문가의 의견을 살펴보겠습니다.

엔다 응과 튜링상 수상자의 대화: AI 안전은 합의에 도달해야 합니다

첫 번째는 벤지오와의 대화입니다. Ng Enda와 그는 다음과 같은 핵심 합의에 도달했습니다. 즉,

과학자들은 "AI 위험이 존재하는 구체적인 시나리오"를 찾으려고 노력해야 합니다.

즉, 어떤 시나리오에서 AI가 인류에게 큰 해를 끼칠지, 심지어 인류의 멸종으로 이어질지는 양측 모두가 합의해야 할 합의점입니다.

벤지오는 AI의 미래가 '안개와 불확실성'으로 가득 차 있다고 믿기 때문에 AI가 해를 끼칠 구체적인 시나리오를 찾아내는 것이 필요합니다.

그런 다음 Hinton과 대화가 이어졌고 두 당사자는 두 가지 핵심 합의에 도달했습니다.

좋은 정책을 수립하려면 모든 과학자가 'AI 위험' 문제에 대해 좋은 토론을 해야 합니다.

한편 AI는 실제로 세상을 이해하고 있습니다. AI 안전 문제에 대한 주요 기술 문제를 나열하면 과학자들이 합의에 도달하는 데 도움이 될 수 있습니다.

이 과정에서 Hinton은 도달해야 할 핵심 사항, 즉 "GPT-4 및 Bard와 같은 대규모 대화 모델이 자신이 말하는 내용을 실제로 이해하는지 여부"를 언급했습니다.

Some people Thinking 어떤 사람들은 자신들이 단지 무작위 앵무새일 뿐이라고 생각한다는 것을 이해합니다.
우리 모두는 (그들이 말하는 내용을) 이해한다고 믿고 있지만, Yann과 같이 우리가 매우 존경하는 일부 학자들은 이해하지 못한다고 생각합니다.

물론 '불려나온' 르쿤도 시간에 맞춰 도착해 매우 진지하게 자신의 견해를 밝혔습니다.

우리 모두는 "어떤 문제에 대해서는 모두가 합의에 도달해야 한다"는 데 동의합니다. 나는 또한 LLM이 어느 정도 이해하고 있으며 "단순한 통계"라고 말하는 것은 오해의 소지가 있다는 Hinton의 의견에 동의합니다.
1. 그러나 그들의 세계에 대한 이해는 매우 피상적입니다. 그 이유는 주로 일반 텍스트로만 교육을 받았기 때문입니다. 비전을 통해 세상이 어떻게 작동하는지 학습하는 AI 시스템은 현실을 더 깊이 이해하게 되는 반면, 자동 회귀 LLM의 추론 및 계획 기능은 이에 비해 매우 제한적입니다.
2. 다음과 같은 조건이 없으면 인간(심지어 고양이) 수준에 가까운 AI가 등장할 것이라고는 생각하지 않습니다.
(1) 비디오와 같은 감각 입력을 통해 학습하는 세계 모델
(2) 추론할 수 있는 모델 그리고 계획(자동 회귀가 아닌) 아키텍처
3. 계획을 이해하는 아키텍처가 있다면 목표 중심적일 것입니다. 즉, (단지 훈련 시간이 아닌) 추론 시간을 최적화한다는 목표에 따라 작업을 계획할 수 있습니다. 이러한 목표는 AI 시스템을 "순종적"이고 안전하게 만들거나 궁극적으로 인간이 할 수 있는 것보다 더 나은 세계 모델을 만드는 가드레일이 될 수 있습니다.
그러면 문제는 안전과 효율성을 보장하는 좋은 목적 함수를 설계(또는 훈련)하는 것입니다.
4. 이것은 어려운 엔지니어링 문제이지만 일부 사람들이 말하는 것만큼 어렵지는 않습니다.

이 답변에서는 여전히 "AI 위험"에 대해 언급하지 않았지만 LeCun은 AI의 안전성을 향상하기 위한 실용적인 제안(AI "가드레일" 생성)을 제시하고 인간보다 더 강력한 AI "장기적"을 구상했습니다. 그것은 어떻게 생겼나요?" (다감각 입력 + 추론 가능한 계획)

어느 정도 양 당사자는 AI에 보안 문제가 있다는 생각에 어느 정도 합의에 도달했습니다.

힌튼: 초지능은 상상 이상으로 가까이 있습니다

물론 앤드류 응과의 대화만이 아닙니다.

최근 Google에서 사임한 Hinton은 최근 참석한 Intelligent Source Conference를 포함하여 여러 차례 AI 위험에 대한 주제를 이야기해 왔습니다.

컨퍼런스에서 그는 "지능을 향한 두 가지 경로"를 주제로 "지식 증류"와 "가중치 공유"라는 두 가지 지능 경로와 AI를 더 똑똑하게 만드는 방법, 그리고 초지능에 대한 자신의 이해에 대해 논의했습니다. 나오는 뷰입니다.

간단히 말해서, 힌튼은 초지능(인간보다 더 지능적인)이 나타날 것이라고 믿을 뿐만 아니라, 그것이 사람들이 생각하는 것보다 더 빨리 나타날 것이라고 믿습니다.

그뿐만 아니라 그는 이러한 초지능이 통제 불능에 빠질 것이라고 생각하지만 현재로서는 그들을 막을 좋은 방법을 생각할 수 없습니다.

초지능은 사람을 조종함으로써 쉽게 더 많은 힘을 얻을 수 있습니다. 우리는 우리보다 훨씬 똑똑한 것에 대해 생각하고 그들과 상호 작용하는 방법에 익숙하지 않습니다. 특정 소설을 통해 남을 속이는 예를 배울 수 있기 때문에 사람을 속이는 데 능숙해진다.

사람을 속이는 데 능숙해지면 무엇이든 하게 만드는 방법이 있습니다... 이게 끔찍하다고 생각하지만 나이가 많아서 이런 일이 발생하지 않도록 방지하는 방법을 모르겠습니다.

당신과 같은 젊고 재능 있는 연구자들이 우리가 어떻게 이러한 초지능을 갖고 있는지 알아내고 우리의 삶을 더 나은 삶으로 만들 수 있기를 바랍니다.

"THE END" 슬라이드가 보여지자 Hinton은 다음과 같이 의미심장하게 강조했습니다.

이것이 내 마지막 PPT이자 이 연설의 끝입니다.

참조 링크:
[1]https://twitter.com/AndrewYNg/status/1667920020587020290
[2]https://twitter.com/AndrewYNg/status/1666582174257254402
[3]https ://2023.baai.ac.cn/

위 내용은 힌튼, 튜링상 수상자: 나는 늙었으니 인간보다 똑똑한 AI를 조종하는 것은 당신에게 맡깁니다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!