16명의 최고 학자들이 AGI에 대해 토론합니다! LSTM의 아버지이자 맥아더 지니어스 그랜트 수상자 마커스가 한 자리에 모였습니다.

1년 만에 Montreal.AI와 뉴욕대학교 게리 마커스 명예교수가 주최한 연례 인공지능 토론회가 지난 금요일 밤에 돌아와 2020년과 마찬가지로 다시 한번 온라인 컨퍼런스로 열렸습니다.

올해의 토론인 AI 토론 3: AGI 토론은 인공 일반 지능, 즉 인간 수준에 가까운 수많은 추론 기능을 통합할 수 있는 기계의 개념에 중점을 둡니다. ㅋㅋㅋ 지능 주제 확장: 인지와 신경과학, 상식, 건축, 윤리와 도덕, 정책과 기여

컴퓨터 과학 분야의 많은 유명 인사들 외에도 전산 신경과학자 Konrad Kording을 포함한 16명의 전문가도 참여했습니다. ​​이 글은 다섯 명의 거물들의 견해를 간략하게 요약한 것입니다. 관심 있는 독자들은 위 링크를 통해 전체 영상을 시청하실 수 있습니다.

사회자: Marcus유명 비평가인 Marcus는 The New Yorker에 실린 "Is 'Deep Learning' a Revolution in the Development of Artificial Intelligence?"라는 기사를 인용했습니다. 》, 다시 한번 AI 개발에 찬물을 끼얹었다.

Marcus는 Li Feifei 팀이 ImageNet을 성공적으로 출시한 이후 10년 동안 인공 지능에 대한 열정의 물결과 달리 전능한 기계를 구축하려는 "소원"이 실현되지 않았다고 말했습니다.

DeepMind 신경과학자 Dileep George

Google DeepMind의 신경과학자 Dileep George는 한때 "선천성"이라는 개념을 제안했습니다.

간단히 말하면, 인간의 마음 속에 "내장"되어 있는 특정 아이디어입니다.

그렇다면 인공지능에 있어서는 타고난 것에 더 주목해야 할까요?

이와 관련하여 George는 초기 상태에서 특정 안정 상태에 이르기까지 모든 종류의 성장과 발전에는 세 가지 요소가 관련된다고 말했습니다.

첫 번째는 초기 상태의 내부 구조, 두 번째는 입력 데이터, 세 번째는 보편적 자연법칙입니다.

"우리가 발견한 모든 영역에서 타고난 구조가 놀라운 역할을 한다는 것이 밝혀졌습니다."

언어 습득과 같이 학습의 고전적인 예로 간주되는 것을 일단 분해하기 시작하면 데이터가 거의 영향을 미치지 않는다는 것입니다.

언어는 인류가 시작된 이래로 변하지 않았습니다. 모든 문화권의 어린이라면 누구나 언어를 습득할 수 있다는 사실이 이를 입증합니다.

조지는 언어가 인공지능의 핵심이 되어 무엇이 인간을 그토록 독특한 종으로 만드는지 알아낼 수 있는 기회를 제공할 것이라고 믿습니다.

워싱턴대학교 컴퓨터과학과 최예진 교수는 앞으로 몇 년 안에 AI의 성능이 점점 더 놀라워질 것이라고 예측합니다.

하지만 네트워크의 깊이를 모르기 때문에 그들은 계속해서 적대적이거나 코너킥적인 실수를 저지를 것입니다.

LSTM의 아버지인 Jürgen Schmidhuber

Marcus는 이제 대규모 언어 모델에서 많은 양의 지식을 얻을 수 있지만 실제로는 이 패러다임을 변형해야 한다고 말했습니다. 언어 모델에는 실제로 여러 유형의 입력이 "박탈"되어 있기 때문입니다.

스위스 인공지능연구소 IDSIA 소장이자 LSTM의 아버지인 위르겐 슈미트후버(Jurgen Schmidhuber)는 "오늘 우리가 논의한 대부분은 적어도 원칙적으로는 수년 전에 '범용 신경망'을 통해 해결됐다"고 답했다. 시스템은 "인간보다 적습니다".

Schmidhuber는 컴퓨팅 성능이 몇 년마다 저렴해지면서 "오래된 이론"이 다시 돌아오고 있다고 말했습니다. "우리는 당시에는 할 수 없었던 오래된 알고리즘으로 많은 일을 할 수 있습니다."

그런 다음 IBM 연구원 Francesca Rossi는 Schmidhuber에게 다음과 같은 질문을 던졌습니다. "아직도 할 수 없는 시스템을 어떻게 보게 될까요?" 우리가 원하는 기능이 없다고 생각하시나요? 이러한 정의된 기술은 아직 현재 시스템에 포함되지 않았습니다.”

이와 관련하여 주로 계산 비용 문제가 있습니다.

가장 아름다운 기술 중 하나입니다. 측면 첫째, 학습 알고리즘도 학습할 수 있다. 가장 큰 질문은 어떤 알고리즘을 배울 수 있느냐는 것입니다. 더 나은 알고리즘이 필요할 수도 있습니다. 학습 알고리즘을 개선하기 위한 옵션입니다.

이런 시스템이 처음 등장한 것은 1992년입니다. 나는 1992년에 첫 논문을 썼다. 그 당시에는 우리가 할 수 있는 일이 거의 없었습니다. 오늘날 우리는 수백만, 수십억 개의 가중치를 가질 수 있습니다.

제 학생들과 함께한 최근 작업에서는 여기저기서 몇 가지 개선 사항을 적용한 이러한 오래된 개념이 갑자기 정말 잘 작동하고 역전파보다 더 나은 새로운 학습 알고리즘을 배울 수 있다는 것을 보여주었습니다.

브리티시 컬럼비아 대학교 컴퓨터 과학 부교수 Jeff Clune

브리티시 컬럼비아 대학교 컴퓨터 과학 부교수 Jeff Clune은 "AI 생성 알고리즘: AGI로 가는 가장 빠른 길"이라는 주제로 토론했습니다.

클룬은 오늘날의 인공지능이 '인공 경로'를 따르고 있다고 말했습니다. 이는 다양한 학습 규칙, 목적 기능 등을 인간이 수동으로 완성해야 함을 의미합니다.

이와 관련하여 그는 앞으로는 수동 설계 방식이 결국 자동 생성 방식으로 대체될 것이라고 믿습니다.

이후 Clune은 AI 발전을 촉진하기 위해 메타 학습 아키텍처, 메타 학습 알고리즘, 효과적인 학습 환경 및 데이터 자동 생성이라는 '3대 기둥'을 제안했습니다.

여기에 클룬은 '인적 데이터 활용'이라는 '네 번째 기둥'을 추가할 것을 권장합니다. 예를 들어, Minecraft 환경에서 실행되는 모델은 게임을 플레이하는 인간의 비디오를 통해 학습함으로써 "대단한 개선"을 달성할 수 있습니다.

마지막으로 Clune은 2030년까지 AGI를 달성할 확률이 30%이며 여기에는 새로운 패러다임이 필요하지 않다고 예측합니다.

여기서 AGI는 "경제적으로 가치 있는 인간 작업의 50% 이상을 완료하는 능력"으로 정의된다는 점에 주목할 필요가 있습니다.

요약하자면

토론이 끝날 무렵 Marcus는 모든 참가자에게 30초 이내에 다음 질문에 답하라고 요청했습니다. "학생들에게 조언을 줄 수 있다면 가장 공부해야 할 인공지능 문제는 무엇입니까? 이제, 아니면 인공지능이 점점 주류화되고 중심이 되는 세상을 어떻게 준비해야 할까요?”라고 최씨는 “AI가 인간의 가치에 부합하고, 특히 다양성을 강조하는 문제를 다뤄야 한다”고 말했다. 견고성, 일반화 및 해석 가능성과 같은 과제를 보다 광범위하게 해결하는 것입니다." George는 연구 방향의 관점에서 다음과 같이 조언했습니다. "먼저 참여하려는 규모를 결정하십시오. 화학 연구 또는 기초 연구. 다른 궤적을 가지고 있습니다.”

Clune: "AGI가 오고 있습니다. 따라서 AI를 개발하는 연구자라면 엔지니어링, 알고리즘, 메타 학습, 엔드투엔드 학습 등을 기반으로 한 기술에 참여하는 것이 좋습니다. AI가 아닌 연구자들에게 가장 중요한 문제는 아마도 거버넌스일 것입니다. 예를 들어, AGI를 개발할 때의 규칙은 무엇이며 전 세계의 연구자들이 이 규칙을 따르도록 하려면 어떻게 해야 할까요?

마커스는 이전 토론에서 "인공지능을 구축하려면 온 마을이 필요하다"라고 말한 것을 회상하며 저녁을 마무리했습니다.

"지금은 그 말이 더욱 사실이라고 생각합니다."라고 그는 말했습니다. "AI는 예전에는 어린아이였지만 지금은 아직 성숙한 판단력이 완전히 발달하지 않은 제멋대로인 십대와 같습니다."

그는 "이 순간은 흥미롭기도 하고 위험하기도 합니다 "라고 결론을 내렸습니다.

위 내용은 16명의 최고 학자들이 AGI에 대해 토론합니다! LSTM의 아버지이자 맥아더 지니어스 그랜트 수상자 마커스가 한 자리에 모였습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!