GPT-4 기술 세부 사항의 기밀성이 논란을 불러일으켰고, OpenAI의 수석 과학자가 이에 대응했습니다.

어제 이른 아침, OpenAI가 예기치 않게 GPT-4를 출시했습니다.

이번 발표는 기술 커뮤니티에 놀라운 소식이었습니다. 결국 GPT-4는 목요일 Microsoft의 "The Future of Work with AI" 행사에서 발표될 것으로 예상되었습니다.

ChatGPT가 출시된 지 불과 4개월 만에 '역사상 가장 빠르게 성장하는 소비자 애플리케이션'이라는 기록을 세웠습니다. 이제 GPT-4가 온라인 상태이므로 제품의 대응 능력이 새로운 수준에 도달했습니다.

충격을 받은 많은 연구자들은 GPT-4의 기술 보고서를 주의 깊게 읽었지만 실망했습니다. 왜 기술적 세부 사항이 없습니까?

창립 정신에 어긋나는 릴리스

공개에서 OpenAI는 다수의 GPT-4 벤치마크와 테스트 결과, 흥미로운 데모를 공유했지만 시스템 교육에 사용된 데이터에 대한 정보는 거의 제공하지 않았습니다. , 컴퓨팅 성능 비용 또는 GPT-4를 생성하는 데 사용된 하드웨어 또는 방법에 대한 정보입니다.

예를 들어, GPT-4를 읽는 시간을 절약해주는 논문의 결론은 다음과 같습니다. "우리는 Python을 사용합니다."

어떤 사람들은 농담까지 했습니다: "나는 GPT를 읽습니다. -4는 Transformer 아키텍처를 기반으로 합니다."

AI 분야의 많은 구성원은 이 결정이 연구 기반 조직으로서의 OpenAI의 창립 정신을 훼손하고 다른 사람들을 더 어렵게 만든다고 비판했습니다. 작업을 복제합니다.

GPT-4의 폐쇄형 모델에 대한 대부분의 초기 반응은 부정적이었지만 분노는 더 이상 "폐쇄 소스"라는 결정을 변경할 수 없는 것 같습니다.

실제로 OpenAI에 대한 비판 오픈 소스가 아닌 것은 한동안 계속되었습니다. OpenAI 창립팀 멤버인 머스크조차 "본래 의도에서 벗어났다"고 공개적으로 의문을 제기했다. 처음에는 거의 1억 달러 규모의 비영리 단체가 어떻게 시장 가치가 300억 달러에 달하는 영리 기업이 되었습니까? "

Nomic AI 정보 디자인 부사장 Ben Schmidt는 다음과 같이 말했습니다. 이제 더 이상 "개방형"이라고 부르지 않아도 될 것 같습니다. - — GPT-4를 소개하는 98페이지 분량의 논문에는 훈련 세트의 내용에 대한 정보를 공개하지 않았다고 자랑스럽게 명시되어 있습니다. 일부 사람들은 OpenAI가 훈련 세트의 세부 사항을 숨기는 또 다른 이유를 믿고 있습니다. GPT-4는 법적 책임입니다. AI 언어 모델은 거대한 텍스트 데이터세트를 기반으로 훈련되며, 많은 모델(초기 GPT 시스템 포함)은 웹에서 정보를 스크랩하며, 그 중 하나에는 저작권이 있는 자료가 포함될 수 있습니다. 현재 여러 회사가 독립 예술가와 사진 사이트인 Getty Images로부터 고소를 당하고 있습니다.

더 중요한 것은 GPT-4가 제기하는 위협에 대한 보호 장치를 개발하기가 더 어려워질 것이라고 말하는 사람들도 있습니다. Ben Schmidt는 또한 GPT-4가 훈련된 데이터를 볼 수 없으면 시스템이 어디에서 안전하게 사용될 수 있는지 파악하고 수정 사항을 제안하는 것이 어렵다고 믿습니다.

"GPT-4와 같은 신경망이 블랙박스라는 것은 잘 알려져 있습니다. 그 동작을 예측할 수 없고 이해하기 어렵다는 사실은 신경망을 어디에 사용해야 하는지에 대한 가장 중요한 질문 중 하나입니다. 이제 OpenAI는 점차 발전하고 있습니다. 이 미스터리를 더욱 확장하는 표준입니다."라고 Ben Schmidt는 말했습니다.

OpenAI 수석 과학자: 오픈 소스 GPT-4는 현명하지 않습니다.

OpenAI의 수석 과학자이자 공동 창립자인 Ilya Sutskever는 위 논란에 대해 OpenAI는 더 많은 GPT-4를 공유하지 않는다고 말했습니다. 세부 정보의 이유는 "경쟁에 대한 두려움과 보안에 대한 걱정"입니다:

"경쟁 구도의 관점에서 보면 외부 경쟁이 매우 치열합니다. GPT-4의 개발은 쉽지 않습니다. 거의 모였습니다. OpenAI의 모든 힘. 오랜 시간이 지나서 이것을 생산하는 데 많은 노력이 필요했고 같은 일을 하고 싶은 회사가 많이 있습니다. "

"보안상의 이유는 경쟁사만큼 눈에 띄지 않습니다. 그러나 그것은 또한 바뀔 것입니다. 이 모델은 매우 효율적이며 점점 더 효율적이 됩니다. 원하는 경우 이러한 모델로 큰 피해를 입히는 것이 매우 쉬울 것입니다.

"OpenAI가 연구 결과를 공유하는 방식을 바꾼 이유"라는 질문에 Sutskever는 다음과 같이 대답했습니다. "솔직히 우리는 틀렸습니다. 우리처럼 믿는다면, 어느 시점에는 AI나 AGI가 극도로 강력하고 믿을 수 없게 될 것이며, 그러면 오픈 소스는 말이 되지 않습니다. 그것은 나쁜 생각이며 저는 몇 년 안에 오픈 소스 AI가 현명하지 않다는 것이 모든 사람에게 분명해질 것이라고 믿습니다."

Lightning AI의 CEO인 PyTorch Lightning의 창시자인 William Falcon은 VentureBeat에게 비즈니스 관점에서 이 결정을 이해할 수 있다고 말했습니다. "회사로서 귀하는 이를 수행할 모든 권리가 있습니다."

그러나 그는 또한 OpenAI의 움직임이 더 광범위한 커뮤니티가 해로운 영향을 미칠 수 있는 "나쁜 템플릿"을 설정하는 것에 더 가깝다고 말했습니다.

OpenAI가 훈련 데이터를 공유하지 않는 이유에 대해 Sutskever는 다음과 같이 설명합니다. “이에 대한 나의 견해는 훈련 데이터를 공개하지 않는 이유와 거의 같습니다. 매개변수 수를 공개하지 않는 이유 OpenAI가 훈련 데이터에 위조 자료가 포함되어 있지 않다고 명확하게 명시할 수 있는지 묻는 질문에 Sutskever는 대답하지 않았습니다.

Sutskever는 오픈 소스 모델이 보호 장치 개발에 도움이 된다는 OpenAI 비평가의 의견에 동의합니다. "만약 더 많은 사람들이 이 모델을 연구한다면 우리는 더 많은 것을 배울 것이고 그것은 훨씬 더 나아질 것입니다"라고 그는 말했습니다. 이러한 이유로 OpenAI는 특정 학술 및 연구 기관에 해당 시스템에 대한 액세스 권한을 제공합니다.

GPT-4로 인한 열띤 논의는 한동안 계속될 것으로 예상되므로 사람들은 다른 진전을 무시할 수도 있습니다.

예를 들어 어제 압도적인 논의 속에서 구글의 발표는 조용해 보였습니다. 현재 생성 AI는 Google Workspace에 완전히 통합되었으며 사진, 프레젠테이션, 이메일, 문서 생성 등의 기능이 업데이트되었습니다. 상상할 수 있듯이 이는 생산성이 크게 향상될 것입니다.

다음으로 사람들은 많은 것을 기대할 수 있습니다. 곧 Microsoft CEO Satya Nadella가 GPT-4 기반 Office 제품군 등 Microsoft와 OpenAI 간의 더 많은 협력을 소개하기 위해 직접 연설을 할 것입니다.

출처: https://www.theinformation.com/articles/microsoft-rations-access-to-ai-hardware-for-internal-teams

기다려 보겠습니다. .

위 내용은 GPT-4 기술 세부 사항의 기밀성이 논란을 불러일으켰고, OpenAI의 수석 과학자가 이에 대응했습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!