미국 언론: 머스크 등이 AI 훈련 중단을 요구하는 것이 맞고 안전을 위해 속도를 늦춰야 한다

3월 30일 뉴스, Tesla CEO Elon Musk, Apple 공동 창업자 Steve Wozniak 외 1,000명 최근 몇몇 사람들이 GPT-4보다 더 강력한 AI 시스템 훈련 중단을 촉구하는 공개 서한에 서명했습니다. 미국의 주류 온라인 미디어인 BI는 사회 전체의 이익을 위해서는 AI 개발을 늦춰야 한다고 믿습니다.

공개 서한에서 워즈니악, 머스크 등은 AI 기술이 점점 더 강력해짐에 따라 안전 가드레일을 설치하고 더 발전된 AI 모델의 훈련을 중단할 것을 요청했습니다. 그들은 OpenAI의 GPT-4와 같은 강력한 AI 모델의 경우 "그 영향이 긍정적이고 위험을 제어할 수 있다고 확신할 때만 개발되어야 한다"고 믿습니다.

물론 사람들이 AI에 대한 안전 가드레일을 요구한 것은 이번이 처음은 아닙니다. 그러나 AI가 더욱 복잡해지고 고도화되면서 주의가 요구되고 있다.

미국 코넬대학교 디지털 및 정보법 교수 James Grimmelmann은 다음과 같이 말했습니다. “새로운 AI 모델의 개발 속도를 늦추는 것은 매우 좋은 생각입니다. 몇 달 또는 몇 년을 기다리다가 해를 입으면 어쨌든 끝까지 갈 것이고 그것이 해롭다면 우리는 그것을 처리하는 가장 좋은 방법을 찾고 싸우는 방법을 배우기 위해 추가 시간을 벌 것입니다.”

상승. of ChatGPT는 너무 빨리 움직이는 것의 잠재적 위험을 강조합니다

지난 11월 OpenAI의 챗봇인 ChatGPT가 공개 베타 버전으로 출시되었을 때 큰 센세이션을 일으켰습니다. 당연히 사람들은 ChatGPT의 기능을 홍보하기 시작했고 ChatGPT가 사회에 미치는 파괴적인 영향은 빠르게 명백해졌습니다. ChatGPT는 의료 전문 시험에 합격하고 폭탄 제조 방법을 지시했으며 심지어 스스로 분신을 만들기도 했습니다.

AI, 특히 ChatGPT 또는 텍스트-이미지 변환 도구인 Stable Diffusion과 같은 소위 생성 인공 지능(AIGC) 도구를 더 많이 사용할수록 우리는 AI의 단점, 편견을 생성할 가능성, 그리고 어떻게 무력한 인류는 자신의 힘을 사용하는 것처럼 보입니다.

BI 편집자 Hasan Chowdhury는 AI가 "터보차저가 되어 실수의 확산을 가속화"할 수 있는 잠재력을 가지고 있다고 썼습니다. 소셜 미디어와 마찬가지로 인류의 최고와 최악을 활용합니다. 그러나 소셜 미디어와 달리 AI는 사람들의 삶에 더욱 통합될 것입니다.

ChatGPT 및 기타 유사한 AI 제품은 이미 정보를 왜곡하고 실수를 하는 경향이 있는데, 이는 Wozniak이 공개적으로 말한 것입니다. 소위 "환각"(허위 정보)이 발생하기 쉬우며 OpenAI CEO인 Sam Altman도 회사의 모델이 인종, 성차별, 편향된 답변을 생성할 수 있다고 인정했습니다. Stable Diffusion은 또한 저작권 문제에 부딪혔으며 디지털 아티스트의 작업에서 영감을 훔쳤다는 비난을 받았습니다.

AI가 더 많은 일상 기술에 통합됨에 따라 더 큰 규모로 세상에 더 많은 잘못된 정보가 유입될 수 있습니다. 휴가 계획을 돕는 것과 같이 AI에게 무해해 보이는 작업이라도 완전히 신뢰할 수 있는 결과를 얻지 못할 수도 있습니다.

자유 시장이 빠른 개발을 요구하는 상황에서 AI 기술을 책임감 있게 개발하는 것은 어렵습니다.

분명히 말하면 AI는 엄청나게 혁신적인 기술이며, 특히 ChatGPT와 같은 AIGC는 더욱 그렇습니다. 사람들이 싫어하는 대부분의 지루한 작업을 수행하는 기계를 개발하는 데 본질적으로 잘못된 것은 없습니다.

이 기술은 노동력에 실존적 위기를 초래하는 동시에 기술 산업을 위한 평등화 도구로도 환영 받았습니다. ChatGPT가 향후 몇 년간 봇 반란을 주도할 준비를 하고 있다는 증거도 없습니다.

많은 AI 회사에는 이 기술을 책임감 있게 개발하기 위해 윤리학자가 참여하고 있습니다. 그러나 제품을 서두르는 것이 사회적 영향보다 더 크다면 AI를 안전하게 만드는 데 집중하는 팀은 작업을 평화롭게 완료할 수 없을 것입니다.

이 AI 열풍에서는 속도도 무시할 수 없는 요소인 것 같습니다. OpenAI는 회사가 충분히 빠르게 움직이면 경쟁을 물리치고 AIGC 공간의 리더가 될 수 있다고 믿습니다. 이로 인해 Microsoft, Google 및 기타 모든 회사가 이를 따르게 되었습니다.

공개 경험을 위해 강력한 AI 모델이 준비되기 전에 출시한다고 해서 기술이 더 좋아지는 것은 아닙니다. 개발자는 자신이 만드는 기술에서 발생하는 소음을 차단해야 하고 사용자는 소음으로 인해 주의가 산만해지기 때문에 AI에 대한 최고의 사용 사례는 아직 발견되지 않았습니다.

모든 사람이 속도를 늦추고 싶어하는 것은 아닙니다.

Musk와 다른 사람들의 공개 서한은 요점을 놓치고 있다고 생각하는 다른 사람들에게도 비판을 받았습니다.

워싱턴 대학교 교수인 Emily M. Bender는 트위터를 통해 머스크와 과대광고 사이클의 다른 기술 리더들은 AI가 초래할 수 있는 실제 피해보다는 AI가 얼마나 강력한지에만 초점을 맞추고 있다고 말했습니다.

코넬 대학의 디지털 및 정보법 교수인 Gerry Melman은 공개 서한에 서명한 기술 리더들이 "뒤늦게 도착"하여 문제에 빠질 수 있는 판도라의 상자를 열고 있다고 덧붙였습니다. 그는 "이제 이 서한에 서명했으니 돌아서서 자율주행차 등 다른 기술에 동일한 정책을 부과할 수 없다"고 말했다. 결과를 달성하십시오. 하지만 이제는 대화가 바뀐 것 같습니다. AI는 수십 년 동안 존재해 왔으며 아마도 몇 년은 더 기다릴 수 있을 것입니다.

위 내용은 미국 언론: 머스크 등이 AI 훈련 중단을 요구하는 것이 맞고 안전을 위해 속도를 늦춰야 한다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!