AI 연구 중단을 요구하는 머스크 등의 공개 서한은 과대 광고를 악화시키고 논문을 왜곡했다는 의혹과 비난을 받았습니다.

3월 31일 뉴스, Tesla CEO Elon Musk, Apple 공동 창립자 Steve Wozniak 외 수천 명 최근 다수의 AI 연구자들이 더욱 발전된 AI 기술에 대한 연구에 대한 유예를 요구하는 공개 서한에 서명했습니다. 그러나 이 편지는 많은 전문가와 심지어 서명자들로부터 의문을 제기했고, AI 과대광고를 악화시키고, 서명을 위조하고, 논문을 왜곡했다는 비난을 받았습니다.

이 공개 서한은 "강력한 기술로 인한 전 세계의 재앙적이고 실존적인 위험을 줄이는 것"을 사명으로 하는 비영리 조직인 Future of Life Institute에서 작성했습니다. 특히 이 연구소는 초지능 AI와 같이 인류에 대한 장기적인 "실존적" 위험을 완화하는 데 중점을 두고 있습니다. 머스크는 2015년에 이 단체에 천만 달러를 기부한 후원자입니다.

편지 내용은 다음과 같습니다. “AI의 영향이 긍정적이고 위험을 제어할 수 있다고 확신할 때만 더욱 강력한 AI 시스템을 개발해야 합니다. 따라서 우리는 모든 AI 연구소에 최소 6개월 동안 즉시 교육을 중단할 것을 요청합니다. GPT-4보다 강력한 AI 시스템입니다. AI 연구소와 독립적인 전문가는 이 시간을 활용하여 독립적인 외부 전문가가 엄격하게 감사하고 감독하는 고급 AI 설계 및 개발을 위한 공유 보안 프로토콜 세트를 개발하고 구현해야 합니다. 서한은 또한 “이것은 AI 개발이 전반적으로 보류된다는 의미가 아니라, 단지 위험한 경쟁에서 새로운 능력을 갖춘 더 크고 예측할 수 없는 블랙박스 모델로의 후퇴를 의미한다”고 명시했습니다. 작년에 많은 새로운 AI 제품을 출시한 Microsoft 및 Google과 같습니다.

기타 주목할만한 서명자로는 이미지 생성 스타트업 Stability AI의 CEO인 Emad Mostaque, 작가이자 역사학자인 Yuval Noah Harari, Pinterest 공동 창립자 Evan Sharp 등이 있습니다. 구글 자매회사인 딥마인드(DeepMind), 마이크로소프트(Microsoft) 등 AI 대회에 참가하는 기업 직원들의 서명도 있었다. OpenAI가 GPT 시리즈 AI 모델을 개발하고 상용화했지만 누구도 서한에 서명하지 않았습니다.

검증 과정을 거쳤음에도 불구하고 해당 편지에는 처음에는 OpenAI CEO Sam Altman, Meta Chief AI Scientist Yann LeCun) 사람을 사칭하는 등 허위 서명자가 많았습니다. Future of Life Institute는 이후 목록을 정리하고 각 서명을 확인하는 동안 편지에 더 많은 서명 표시를 중단했습니다.

그러나 이 공개 서한의 공개는 소란을 불러일으켰고 많은 서명자들을 포함하여 많은 AI 연구자들에 의해 면밀히 조사되었습니다. 일부 서명자는 자신의 입장을 철회했고, 세간의 이목을 끄는 일부 서명은 가짜로 판명되었으며, 더 많은 AI 연구원과 전문가가 서한의 설명과 제안된 접근 방식에 대해 공개적으로 반대 의사를 표명했습니다.

뉴욕대학교 심리학 및 신경과학 교수인 Gary Marcus는 "문자는 완벽하지 않지만 정신은 정확합니다"라고 말했습니다. 한편 Stability AI CEO Mushtaq은 트윗을 통해 OpenAI는 진정한 "개방형" AI 회사라고 말했습니다. "그래서 6개월 동안 훈련을 중단하는 것이 최선의 생각은 아니라고 생각하고, 편지에 있는 많은 견해에 동의하지 않지만, 편지에는 아주 흥미로운 내용이 있습니다."

AI 전문가들은 이 편지가 'AI 과대광고'를 조장했지만 오늘날 존재하는 AI 피해에 대한 구체적인 조치를 나열하거나 촉구하지 못했다고 비판했습니다. 일부 사람들은 이것이 초부유층을 선호하고 특정 근거에 따라 도덕적으로 의심스러운 행동을 취할 수 있도록 허용하기 때문에 해롭고 반민주적이라고 비판받아온 오래되었지만 다소 비현실적인 견해를 조장한다고 믿습니다.

워싱턴 대학교 언어학과 교수이자 공개 서한 시작 부분에 인용된 논문의 공동 저자인 Emily M. Bender는 트위터에 서신이 "AI 과대 광고로 가득 차 있다"고 썼으며 오용되었습니다. 그녀의 연구 결과. 편지에는 "광범위한 연구 결과에 따르면 인간과 유사한 지능을 갖춘 AI 시스템이 사회와 인류에 심각한 위협이 될 수 있다는 것이 밝혀졌습니다." 그러나 벤더는 연구에서 이 위협이 현재의 대규모 언어 모델과 관련이 있다고 구체적으로 지적했다고 반박했습니다. 공개 서한에 제시된 미래의 AI 위협보다 훨씬 더 구체적이고 시급한 억압 시스템에서의 사용.

Bender는 계속해서 다음과 같이 말했습니다. "우리는 위험을 고려하지 않고 더 큰 언어 모델을 구축하려는 이러한 성급한 작업이 문제가 있음을 지적하는 전체 논문을 2020년 말에 발표했습니다. 그러나 위험과 피해는 결코 'AI가 너무 강력하다'는 것이 아닙니다. , 그것은 국민의 손에 권력의 집중, 억압 시스템의 재생산, 정보 생태계 파괴, 자연 생태계 파괴 등에 관한 것입니다.”

AI 스타트업 Hugging Face의 연구 과학자인 Sasha Luccioni는 인터뷰에서 다음과 같이 말했습니다. 예를 들어, LLM의 교육 데이터 및 기능과 관련하여 더 많은 투명성을 요구하거나 언제 어디서 사용할 수 있는지 입법을 요구하는 등 이러한 피해에 초점을 맞추고 지금 해결하는 대신 "Arvind Narayanan? 프린스턴 대학교 컴퓨터 과학 부교수는 공개 서한이 AI에 대한 과대광고로 가득 차 있으며 "실제적이고 지속적인 AI 피해를 해결하는 것이 더욱 중요해진다"고 말했습니다.

공개 서한은 다음과 같은 몇 가지 질문을 제기합니다. “우리는 성취하고 있는 작업을 포함하여 모든 작업을 자동화해야 합니까? 결국 인간 지능을 뛰어넘어 우리를 대체할 수 있는 비인간적 정신을 배양해야 할까요?

이와 관련하여 Narayanan은 이러한 질문이 "말도 안 되는 일"이고 "완전히 말도 안되는 일"이라고 말했습니다. 컴퓨터가 인간을 대체하고 인간 문명을 장악할 것인지 여부는 매우 먼 질문이며, 현재 문제에서 우리를 산만하게 하는 장기적인 사고의 일부입니다. 결국, AI는 우리를 "구식"으로 만드는 "비인간적 사고"의 한 형태가 아니라 이미 사람들의 직업에 통합되어 특정 직업의 필요성을 줄이고 있습니다.

Narayanan은 또한 다음과 같이 말했습니다. "나는 이것이 합법적인 장기적 우려로 간주될 수 있다고 생각하지만 이러한 문제는 계속해서 언급되어 매우 실제적인 정보 보안 및 보안 위험을 포함하여 현재의 피해로부터 주의를 돌리고 있습니다. 그리고 이러한 보안 위험을 해결하는 것은 안타깝게도 AI 능력의 과장과 인간 생존에 대한 위험을 포함한 이 편지의 과대광고는 AI 모델에 더 많은 제약을 초래하여 위험에 대응하기 어렵게 만들 수 있습니다.”

그러나, 공개 서한에 서명한 많은 사람들도 스스로를 변호했습니다. 연구 기관 밀라(Mila)의 창립자이자 과학 책임자인 요슈아 벤지오(Yoshua Bengio)는 정부를 포함한 거버넌스 기관이 AI 시스템이 대중의 안전을 보장하기 위해 이해하고 감사하며 검증하려면 6개월 간의 유예가 필요하다고 말했습니다. 그는 위험한 권력 집중이 있고, AI 도구는 민주주의를 불안정하게 만들 가능성이 있으며, "민주적 가치와 이러한 도구가 개발되는 방식 사이에 갈등이 있다"고 덧붙였습니다.

MIT NSF AI 및 기초 상호 작용 연구소(IAIFI) 물리학 교수이자 미래 생명 연구소 소장인 Max Tegmark는 최악의 시나리오는 인간이 문명 통제에 대한 이해를 점차 잃어가는 것이라고 말했습니다. 그는 이제 위험은 "과도한 영향력을 가진 기술 회사의 선출되지 않은 강력한 사람들에게 통제력을 잃는 것"이라고 말했습니다. 그러나 6개월간 유예를 요구하는 것 외에는 구체적인 방안은 논의되지 않았다.

컴퓨터 과학자이자 Distributed AI Institute의 창립자인 Timnit Gebru은 트위터에 GPT-4보다 더 강력한 AI 모델 훈련에 대한 유예를 요구했지만 주변의 여러 우려를 해결하지 못한 것이 아이러니하다고 게시했습니다. GPT-4 자체.

위 내용은 AI 연구 중단을 요구하는 머스크 등의 공개 서한은 과대 광고를 악화시키고 논문을 왜곡했다는 의혹과 비난을 받았습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!