저번에는 Zhou Shouzi였습니다. 이번에는 Sam Altman의 차례입니다.
그러나 이번에 국회의원들은 그에 대해 완전히 다른 태도를 보였습니다. 친절하고 인내심이 많으며 숙제를 충분히 하고 겸손하게 조언을 구했습니다.
어제 밤, 베이징 시간으로 OpenAI CEO인 Sam Altman은 미국 상원에서 AI 기술의 잠재적 위험에 대해 증언하고 국회의원들에게 고급 AI를 제조하는 조직에 대한 라이센스 요구 사항 및 기타 규정을 구현하도록 촉구했습니다.
Sam Altman은 까다로운 질문을 받아들일 필요가 없었습니다. 그는 자리에 앉아 편안하게 이야기하며 다시 한 번 세상에 증명했습니다. 그는 세계에서 가장 주목받는 스타트업 CEO로서 글을 쓰고 있습니다. 기술에 관한 세계의 규칙과 미래.
미국 의회에서 Sam Altman은 다시 한 번 다음과 같이 단언했습니다. OpenAI는 향후 6개월 동안 GPT-5를 훈련시키지 않을 것입니다.
동시에 그는 AI가 세상에 해로울 수 있다고 경고했습니다. 점점 더 강력해지는 AI 위험에 대처하려면 감독과 입법을 강화해야 하며 정부 개입이 매우 중요합니다.
알트만은 왜 정부 규제에 적극적일까요?
분명히 규칙을 만드는 사람이 되면 승자독식 경쟁에서 승리할 수 있습니다.
'사회적 소' 특성을 바탕으로 실리콘 밸리에서 이름을 날린 알트만에게 정부와 거래하는 것은 가방에서 물건을 꺼내는 것만큼 쉽습니다.
기술계에 갑자기 등장한 새로운 세력인 OpenAI는 창립 8년 만인 올해 빛의 속도로 세상을 뒤흔들어 모든 기술 기업이 참여하게 만들었습니다. ChatGPT에서 시작되는 글로벌 혁신.
이 글로벌 AI 군비 경쟁은 많은 전문가들을 놀라게 했습니다.
그러나 이번 청문회에서 상원 의원들은 OpenAI의 기술로 인한 혼란을 비판하지 않고 ChatGPT의 잠재적 규칙에 대한 증인의 의견을 겸손하게 요청했습니다. 육안으로 친절하고 존중하십시오.
청문회가 시작될 때 Richard Blumenthal 상원의원은 음성 복제 소프트웨어를 사용하여 자신의 음색을 복사하고 ChatGPT에게 개시문을 작성하도록 한 다음 몇 시간의 음성을 사용하여 텍스트 음성 변환 생성기를 훈련시켰습니다.
이 움직임은 의회가 "AI 포용"에 대한 명확한 태도를 가지고 있음을 증명합니다.
이 청문회에서 입법자들은 분명히 매우 흥분했으며 이는 Xiao Zha와 Zhou Shouzi에 대한 이전의 의심과는 뚜렷한 대조를 이루었습니다.
상원의원들은 과거의 실수를 되새기기보다는 AI가 가져올 수 있는 혜택을 열망하고 있습니다.
그리고 Altman은 상원에 AI 기술이 잘못될 수 있다는 점을 직설적으로 말했습니다.
그는 인공지능 산업이 세상에 심각한 해를 끼칠 것이라는 점을 매우 걱정한다고 말했습니다.
"AI 기술이 잘못되면 그 결과는 재앙이 될 것입니다. 우리는 이에 대해 이야기해야 합니다. 우리는 이러한 일이 발생하지 않도록 정부와 협력하고 싶습니다."
"우리는 정부 규제 개입이 있다고 믿습니다." AI 모델의 위험은 매우 중요합니다. 예를 들어, 미국 정부는 기능 임계값을 초과하는 AI 모델을 개발하고 출시하기 위해 라이선스 및 테스트 요구 사항을 결합하는 것을 고려할 수 있습니다.”
알트만은 AI가 생성한 콘텐츠로 인해 선거가 영향을 받을 것을 매우 우려하고 있어 이에 대한 충분한 감독이 필요하다고 말했습니다.
이에 대해 Dick Durbin 상원 의원은 대기업이 "우리의 규제를 부탁드립니다"라고 상원에 오는 것이 놀랍다고 말했습니다.
규제 방법? Altman은 이미 정부에 대해 생각했습니다.
청문회에서 그는 체계적인 방안을 제안했다.
1. 대형 AI 모델 라이선스를 담당하는 새로운 정부 기관을 설립하고 기준을 충족하지 않는 모델의 라이선스를 취소합니다.
최첨단 대형 모델 수준에 도달하지 못하는 기술에 대해서는 이러한 라이센스 규제 시스템을 구현할 필요가 없다고 생각합니다. 혁신을 장려하기 위해 의회는 규제 부담으로부터 중소기업과 연구원을 보호하기 위해 역량 임계값을 설정할 수 있습니다.
2. 위험한 기능 평가를 포함하여 AI 모델에 대한 일련의 안전 표준을 만듭니다.
예를 들어 모델은 '자기 복제' 및 '감독 외부 흐름' 가능 여부와 같은 보안 테스트를 통과해야 합니다.
3. 독립적인 전문가가 다양한 지표에 대한 모델 성과에 대한 독립적인 감사를 수행하도록 요구합니다.
상원의원이 그에게 그 역할을 맡을 의향이 있는지 물었을 때 Altman은 "나는 현재 직업에 만족하지만 의회가 선택할 수 있는 목록을 기꺼이 제공할 것입니다."라고 말했습니다.
Altman은 AI 모델이 "사람의 행동과 신념을 설득하고, 조작하고, 영향을 미치고" 심지어 "새로운 생물학적 작용제를 생성"할 수 있기 때문에 라이선스가 매우 필요하다고 말했습니다.
특정 컴퓨팅 성능 임계값을 초과하는 모든 시스템에 라이선스를 부여하는 것이 더 간단할 수 있지만 Altman은 특정 기능을 기반으로 규제 선을 그리는 것을 선호한다고 말했습니다.
그렇다면 OpenAI 자체 모델은 안전할까요?
Altman은 모든 사람이 안심할 수 있다고 반복해서 말했습니다.
그는 GPT-4 모델이 다른 유사한 모델보다 더 의도적이고 진정성있게 대응할 것이며 GPT-4가 광범위한 출시 전 테스트 및 감사를 거쳤기 때문에 유해한 요청을 확실히 거부할 것이라고 말했습니다.
"OpenAI는 새로운 시스템을 출시하기 전에 광범위한 테스트를 수행하고, 외부 전문가를 고용하여 자세한 검토 및 독립적인 감사를 수행하고, 모델의 동작을 개선하고, 강력한 보안 및 모니터링 시스템을 구현합니다.
"GPT를 출시하기 전에." -4, 우리는 광범위한 평가, 외부 레드 팀 구성 및 위험한 기능 테스트를 수행하는 데 6개월 이상을 보냈습니다.
그리고 지난달 ChatGPT 사용자는 개인 데이터가 사용되는 것을 방지하기 위해 채팅 기록을 끌 수 있었습니다. AI 모델을 훈련합니다.
그러나 "화점"을 발견한 눈썰미 있는 사람들도 있습니다. 알트만의 제안에는 대중이 뜨겁게 논쟁하고 있는 두 가지 사항이 포함되어 있지 않습니다. -
1 AI 모델에게 출처 공개를 요구합니다. 그들의 훈련 데이터.
2. AI 모델이 교육을 위해 지적 재산권으로 보호되는 저작물을 사용하는 것은 금지되어 있습니다.
즉, 알트만은 이 두 가지 논쟁점을 매우 교묘하게 피했다는 것입니다.
Altman의 AI 안전 규칙 제안은 국회의원들로부터 칭찬을 받았으며 때때로 그의 증언에 감사를 표했습니다. R-LA의 Altman 상원의원은 Altman에게 연락하여 의회가 설립한 규제 기관에서 일하는 데 관심이 있는지 물었습니다.
의회가 인공지능을 규제하기로 결정했는데, 초기 징후가 있습니다. 이달 초 알트만은 구글, 마이크로소프트, 엔비디아 CEO들과 함께 백악관에서 카말라 해리스(Kamala Harris) 부통령을 만나 책임 있는 AI 개발에 대해 논의했습니다.
미 백악관은 차별 금지 등 업계에 다양한 요구사항을 제시하기 위해 지난해 초 '인공지능 권리장전'을 제안했다.
의원은 AI를 원자폭탄에 비유하자고 제안했습니다.
핵무기 규제에 관한 전 세계 정부의 관행을 참고하면서 알트만은 업계를 위한 글로벌 규칙을 제정하기 위해 국제원자력기구(IAEA)와 유사한 기관을 구성하자는 아이디어를 제안했습니다.
4월 Lex Fridman과의 두 번째 인터뷰에서 Sam Altman은 다음과 같이 결론적으로 말했습니다. "우리는 지금 GPT-5를 훈련하고 있지 않습니다. 현재로서는 GPT-4를 기반으로 더 많은 작업을 수행할 뿐입니다.”
이번 청문회에서 Altman은 향후 6개월 동안 OpenAI를 교육할 가능성이 없다고 직접 인정했습니다. GPT-5.
이는 올해 말에 Google이 사상 가장 강력한 인공 지능 시스템인 Project Gemini를 보유하게 된다는 것을 의미합니다.
Gemini는 처음부터 다중 모드일 뿐만 아니라 도구와 API를 통합하는 데에도 매우 효율적으로 저장 및 스케줄링과 같은 미래 혁신을 위해 설계되었다고 합니다. 현재 새로 설립된 Google Deepmind 팀에서 개발 중입니다.
뉴욕대학교 심리학 및 신경과학 교수인 게리 마커스도 증인석에 등장했습니다.
그는 국회의원들보다 훨씬 더 공격적입니다.
Sam Altman에게 한 그의 질문은 "치명적"이라고 설명할 수 있습니다.
OpenAI의 설립 목적은 인류 전체의 이익이 아닌데 왜 지금 마이크로소프트와 동맹을 맺으려고 하는 걸까요?
OpenAI는 개방형이 아니며 GPT-4의 훈련 데이터가 투명하지 않다는 것은 무엇을 의미합니까?
Marcus는 결론을 내립니다. 우리에게는 전례 없는 기회가 있지만 기업의 무책임, 광범위한 배포, 적절한 규제 부족 및 신뢰성 부족이라는 끔찍한 위험에도 직면해 있습니다.
Marcus In Si의 견해에는 매우 중요한 것이 있습니다. Open과 Microsoft가 하고 있는 일이 잘못되었습니다.
Microsoft의 Bing AI Sydney는 일련의 충격적인 행동을 보여준 적이 있습니다.
"시드니에는 큰 문제가 있습니다. 저라면 즉시 시장에서 철수하겠지만 Microsoft는 그렇지 않았습니다."
Marcus는 이번 사건이 자신에게 경각심을 불러일으켰다고 말했습니다. OpenAI와 같은 비영리 조직도 대기업에 인수되어 원하는 것은 무엇이든 할 수 있습니다.
하지만 이제 사람들의 견해와 삶은 AI에 의해 미묘하게 형성되고 변화되고 있습니다. 누군가 의도적으로 AI 기술을 나쁜 목적으로 사용한다면 어떨까요?
Marcus는 이것에 대해 매우 걱정했습니다.
"몇몇 회사가 사람들의 신념에 영향을 미칠 수 있는 기술주의와 과두정치의 결합을 허용하는 데에는 실질적인 위험이 있습니다... 소수의 플레이어가 근본적으로 우리가 사용하는 것을 사용하게 놔두는 것은
몇 가지 일반적인 법률 및 규제 문제와 관련하여 Altman은 이미 계획을 염두에 두고 있음을 알 수 있습니다. 모든 상원의원을 위한 준비가 명확하게 이루어졌습니다.
상원 의원은 인공 지능에 대한 "가장 큰 우려 사항" 중 하나가 "이러한 대규모 기업 독점"이라고 말했습니다.
그는 OpenAI와 기술 대기업 Microsoft와의 협력을 예로 들었습니다.
Altman은 대형 모델을 생산할 수 있는 회사의 수가 상대적으로 적어 규제가 더 쉬울 수 있다고 생각한다고 말했습니다.
예를 들어 대규모 생성 AI를 제조할 수 있는 회사는 소수이지만 경쟁은 항상 존재해 왔습니다.
소셜 미디어의 성장은 사용자 게시물에 대한 책임으로부터 웹사이트를 보호하는 1996년 미국 의회의 230조 통과로 촉진되었습니다.
Altman은 다음과 같이 믿습니다. 현재로서는 대형 모델이 230조로 보호받을 수 있는 방법이 없습니다. 대형 모델이 출력하는 콘텐츠에 대한 법적 책임으로부터 보호하기 위해 새로운 법률이 제정되어야 합니다.
울트라맨은 처음에 "AI가 가장 심각한 결과를 초래할 수 있다"는 상원의원의 제안을 피했습니다.
그러나 마커스가 알트만이 질문에 대답하지 않았다는 점을 친절하게 상기시킨 후 상원의원은 자신의 질문을 반복했습니다.
Altman은 궁극적으로 이 질문에 직접 답변하지 않았습니다.
그는 OpenAI가 "다양한 방식으로" "세계에 심각한 해를 끼칠 수 있는" 인공 지능의 위험에 대해 매우 명확하게 설명하려고 노력했다고 말했습니다.
그가 다시 분명히 밝혔습니다. 이 문제를 해결하기 위해 OpenAI가 설립되었습니다. "이 기술에 문제가 생기면 크게 잘못될 수 있습니다."
실제로 올해 초 "StrictlyVC"와의 인터뷰에서 알트만은 인류의 멸종을 최악의 시나리오라고 말했습니다.
결국 마커스마저도 울트라맨에 대해 부드러워지는 것 같았습니다.
청문회가 끝날 무렵, 알트만 옆에 앉은 마커스는 "그가 두려움을 이야기할 때의 진심은 TV 화면에서는 느낄 수 없을 만큼 명백하다"고 말했다.
주커버그에 비해 이번 청문회에서 알트만의 성과는 매우 정교했습니다. 사회적 소로서 그는 이미 정치인을 대하는 데 능숙했습니다. 결국 Altman은 몇 년 전에 캘리포니아 주지사 출마를 고려한 사람이었습니다.
그리고 청문회에 가기 전에 이미 데이터 프라이버시와 화폐로 인해 "많은 어려움을 겪었던" Xiao Zha에 비해 Altman 뒤에 있는 OpenAI는 대중의 비판을 거의 받지 못했을 뿐만 아니라 현재 상황이기도 합니다. "모든 일이 일어나는" AI 분야에서 가장 중요한 창시자.
처음부터 선의를 보이며 AI 규제를 촉구했던 알트만을 마주하면, 거의 모두가 '기술 아마추어'인 이들 의원들은 이 '권위' 앞에선 자연스럽게 훨씬 온화하고 친절해 보일 것이다.
그래서 같은 상황에서 Altman에 대한 압력은 Zha에 대한 압력과 같은 규모가 아닙니다.
상원은 AI 제품이 인터넷 소셜 플랫폼과 같은 광고 기반 비즈니스 모델을 채택하면 조작적인 제품 디자인으로 이어질 것이며 중독성 있는 알고리즘이 남용될 것이라는 우려를 제기했습니다.
Altman은 구독 모델을 "매우 좋아한다"고 말했습니다.
그러나 OpenAI는 무료 사용자로부터 돈을 벌기 위해 ChatGPT 무료 버전에서 광고를 실행할 가능성을 고려했습니다.
위 내용은 ChatGPT의 아버지가 국회 의사당에서 논쟁을 벌이고 있습니다! OpenAI는 정부와 힘을 합쳐 권력을 얻고 싶어합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!
![[웹 프런트엔드] Node.js 빠른 시작](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
