끔찍한 Agi와 Killer AI Superintelligence에서 세상을 구하기위한이 네 가지 중요한 행동을 고려한 유엔

유엔은 AI가 어떻게 발전하고 있는지, 어떤 종류의 국제 다자간 계약 및 협력이 진행되어야하는지에 대한 지속적인 관심을 가졌다는 점에 유의하십시오 (여기 링크의 내 보도 참조). 이 최신 보고서의 독특한 요소는 지금 당장 AI의 정점 유형 인 AGI에 초점을 맞춰야한다는 것입니다. AI 커뮤니티의 많은 사람들은 우리가 이미 AGI의 커스에 가까워지고 있다고 주장하며, 그 후 곧 인공 수퍼 인텔리전스 (ASI)에 도착할 것입니다.

인류와 세계 생존을 위해 유엔은 AGI와 궁극적으로 ASI의 거버넌스와 통제에 대해 이야기하려고합니다.

그것에 대해 이야기합시다.

혁신적인 AI 혁신에 대한이 분석은 다양한 영향력 AI 복잡성을 식별하고 설명하는 것을 포함하여 AI의 최신 Forbes 열 범위의 일부입니다 (여기 링크 참조).

Agi와 Asi로 향합니다

먼저,이 중대한 토론의 단계를 설정하려면 일부 기본 사항이 필요합니다.

AI를 더욱 발전시키기 위해 많은 연구가 진행되고 있습니다. 일반적인 목표는 인공 일반 정보 (AGI)에 도달하거나 인공 초 지성 (ASI)을 달성 할 수있는 능력에 도달하는 것입니다.

AGI는 인간의 지성과 동등한 것으로 간주되며 우리의 지능과 일치 할 수있는 AI입니다. ASI는 인간의 지성을 넘어서서 실현 가능한 모든 방법이 아니라면 많은 사람들에게 우수 할 AI입니다. 아이디어는 ASI가 매번 우리를 능가하여 인간을 둘러싼 서클을 실행할 수 있다는 것입니다. 기존 AI 대 AGI 및 ASI의 특성에 대한 자세한 내용은 여기 링크의 분석을 참조하십시오.

우리는 아직 AGI를 얻지 못했습니다.

실제로, 우리가 AGI에 도달 할 것인지, 또는 지금부터 수십 년 동안 AGI가 달성 할 수 있는지 여부는 알려져 있지 않습니다. 떠 다니는 AGI 달성 날짜는 신뢰할 수있는 증거 또는 철제 논리에 의해 엄청나게 다양하고 결정적으로 결정되지 않습니다. ASI는 현재 기존 AI와 함께있는 곳에있어서 창백한 것 이상입니다.

유엔은 AI와 AGI에 있습니다

나는 이전에 AI가 어디로 향하고 있는지, 사회가 어떻게 고급 AI를 활용 해야하는지에 관한 수많은 유엔 노력을 탐구했습니다.

예를 들어, 나는 유엔이 vaunted Sustainability Development 목표 (SDG)를 얻기 위해 활용할 것을 권장하는 방법을 광범위하게 제시했으며 여기에서 링크를 참조하십시오. 유엔의 또 다른 중요한 문서는 AI의 윤리에 대한 유네스코 주도의 계약입니다. AI의 윤리는 193 개국이 고급 AI를 적절하게 사용하는 최초의 글로벌 합의였습니다 (여기 링크의 내 분석 참조).

최신 주목할만한 보고서는“인공 일반 정보 전환 거버넌스 : UN 총회를위한 긴급 고려 사항”이라는 제목의 제목이 있으며 UNCPGA (United Nations General Assembly) 회장 (UNCPGA)에 준비되어 제출되었습니다.

다음은 해당 보고서 (Excerpts)의 몇 가지 주요 요점입니다.

• "AI 시스템은 다양한인지 과제에서 인간 지능을 동등하거나 능가 할 수있는 시스템을 특징으로하는 인공 일반 정보 (AGI)를 향해 빠르게 발전하고 있습니다."
• "전통적인 AI와 달리 AGI는 인간의 감독을 넘어 유해한 행동을 자율적으로 실행하여 돌이킬 수없는 영향, 고급 무기 시스템의 위협 및 중요한 인프라의 취약점을 초래할 수 있습니다."
• "이러한 글로벌 과제를 효과적으로 해결하려면 유엔이 지원하는 즉각적이고 조정 된 국제 행동이 필수적입니다."
• "적극적인 글로벌 관리가 없다면 국가와 기업 간의 경쟁은 위험한 AGI 개발을 가속화하고 보안 프로토콜을 약화 시키며 지정 학적 긴장을 악화시킬 것입니다."
• "공동 국제 행동은 이러한 결과를 방지하여 안전한 AGI 개발 및 사용, 공평한 혜택 분배 및 글로벌 안정성을 촉진 할 수 있습니다."

결론은 AGI가 느슨해지고 불충분하게 감독 할 수있게되면 사회가 심각한 위험에 처하게된다는 강력한 사례가 될 수 있다는 것입니다. 세계 국가들이 어떻게 그 위험을 시도하고 완화시키기 위해 통합 할 수 있는지에 대한 의문이 제기됩니다. 적절하게, 유엔은 그들이 그 도전을 수행하기에 적합한 기관이라고 믿고 있습니다.

Un은 4 개의 큰 묻습니다

UN 보고서는 AGI의 출현에 대처하는 것과 관련하여 긴급히 필요한 단계에 대해 무엇을 말합니까?

이 네 가지 중요한 권장 사항은 다음과 같이 명백히 요구됩니다.

• (1) 글로벌 AGI 전망대를 설립하십시오.
• (2) 안전하고 신뢰할 수있는 AGI를위한 국제 모범 사례 및 인증 세트를 만들어냅니다.
• (3) AGI에 관한 특별 프레임 워크 협약을 소집합니다.
• (4) 잠재적으로 AGI Advent에 전념하는 새로운 유엔 대행사를 만듭니다.

이러한 권고안은 유엔 총회 회장에 의해 고려 될 것입니다.

전반적으로, 이러한 권고 사항 중 하나 이상을 제정하는 것은 유엔 총회 결의안의 일부 형태를 포함 할 수 없으며 의심 할 여지없이 유엔의 다른 AI 이니셔티브에 통합되어야합니다. 권장 사항 중 어느 것도 진행되지 않을 수 있습니다. 마찬가지로, 권장 사항은 다른 방식으로 개정되거나 재구성되고 사용될 수 있습니다.

소중한 문제가 진행됨에 따라 계속 게시하겠습니다.

한편,이 네 가지 권장 사항에 대해 약간의 포장을 풀겠습니다. 나는 하나씩 그렇게하고 도발적이거나 매력적인 결론을 제공 할 것입니다.

글로벌 AI 전망대

4 가지 권장 사항 중 첫 번째 권장 사항에는 AGI의 상황을 추적하는 글로벌 AGI 전망대를 설립해야합니다. 이것을 AGI에 대한 선별 된 정보 소스 역할을하는 특수 온라인 저장소로 생각하십시오.

나는 이것이 대중에게 대중에게 유용 할 때 유엔 회원국들에게 큰 도움이 될 것이라는 데 동의한다.

알다시피, 지금 문제는 AGI에 관한 엄청난 양의 잘못된 정보와 정보가 널리 퍼져 있거나 종종 AGI와 ASI의 출현을 과소 평가하는 것에 관한 엄청난 양의 잘못된 정보와 정보가 있다는 것입니다. AGI 전망대가 수집 및 공유 된 내용에 적절하게 고안되고 적절하게 조심 스러웠다 고 가정하면 신뢰할 수 있고 균형 잡힌 AGI에 대한 출처를 갖는 것이 매우 유용 할 것입니다.

그러한 AGI 전망대에 대한 잠재적 비판 중 하나는 아마도 AGI에 관한 다른 유사한 상업용 또는 국가 컬렉션을 복제 할 수 있다는 것입니다. 또 다른 Qualm은 AGI 전망대가 편향 될 수 있다면 균형 잡힌 무언가의 분위기를 오도하게 만들었지 만 실제로는 지시 된 방식으로 기울어 질 것입니다.

AGI에 대한 모범 사례 및 인증

두 번째 권장 사항은 AGI 모범 사례 세트를 제작하도록 요청합니다. 이것은 국가들이 각국의 AGI를 현명하게 감독하기 위해 어떤 종류의 거버넌스 구조가 고려되어야하는지 이해하는 데 도움이 될 것입니다. 국가들이 수준의 경기장을 기준으로 진행하는 것을 촉진 할 수 있습니다. 또한, 그것은 휠의 속담 재창조를 줄입니다. 즉, 국가는 이미 제시된 AGI 모범 사례를 단순히 채택하거나 적응할 수 있습니다.

그러한 규정을 처음부터 쓸 필요가 없습니다.

비슷한 맥락에서 AGI에 대한 인증 설정은 AGI 모범 사례와 잘 정해집니다. AI 제작자와 국가 전체는 AGI와 생명 표준에 대한 준수에 대한 인증을 받기를 희망합니다.

이 정면에 대한 비판은 유엔이 모범 사례를 강제적 인 측면으로 만들지 않는다면, 마찬가지로 AGI 인증이 단지 선택 사항이라면, 국가를 채택하는 데 어려움을 겪는 경우 거의 없다는 것입니다. 그런 의미에서, 전체적으로 전체적으로는 주로 창 드레싱이며 발바닥의 고려 사항이 아닙니다.

유엔 프레임 워크 컨벤션

유엔의 종말에서, 그것은 중요한 주제에 대한 프레임 워크 협약을 요구할 것으로 예상된다.

AGI는 매우 중요한 주제이기 때문에 다음은 보고서에서 제안 된 내용에 대한 스냅 샷 발췌가 있습니다.“AGI에 관한 프레임 워크 협약은 AGI 위험을 관리하고 공평한 글로벌 혜택 분배를 보장하기 위해 공유 목표 및 유연한 프로토콜을 확립해야합니다. 표준 세팅 및 라이센스 규제에 이르기까지 국제적 행동을 요구하는 명확한 위험 계층을 정의해야합니다. 개발."

이러한 종류의 활동에 대한 일반적인 비판은 그들이 실질적인 것을 많이 만들지 않는 관료적 악몽이 될 수 있다는 것입니다. 또한, 그들은 뻗어 있고 긴 일이 될 수 있습니다. AGI가 가까운 지평에 있다고 믿는 경우이 경우에 특히 당황 스럽습니다.

유엔 AGI 기관을 공식화하십시오

네 번째 권장 사항은 새로운 유엔 대행사가 설정되어야하는지 여부를 평가하기 위해 타당성 조사를 수행 함을 나타냅니다. 이것은 AGI의 주제에 전념하는 전문 유엔 대행사 일 것입니다. 이 보고서는 이것이 신속하게 탐색, 승인 및 신속하게 움직여야한다고 강조합니다.

유사한 유형의 대행사 또는 단체는 국제 원자 에너지 기관 (IAEA)이 될 것입니다. 당신은 아마도 IAEA가 세상을 평화로운 원자력 사용으로 인도하려고한다는 것을 알고있을 것입니다. 그것은 IAEA 내에서 자해를 제공하는 창립 조약을 가지고 있습니다. 전반적으로 IAEA는 유엔 총회 및 유엔 안전 보장 이사회에보고합니다.

유엔의 AGI 기관을 제시하는 것에 대한 비판은 국제 스쿼시에 빠질 수 있다는 것입니다. 또한 위험 감소 가이드 역할을하는 것이 아니라 AGI의 창의적 사용에 대한 억제제가 될 가능성도 있습니다. 명확히하기 위해, 너무 많은 규제 및 감독 기관에 대해 논쟁하는 것이 있습니다. 왜냐하면 이것은 AGI의 혁신적인 사용을 약화시킬 수 있기 때문입니다.

우리는 우연히 Agi를 우리가 이전에 기대했던 것보다 훨씬 덜 인상적이고 가치있는 것으로 바꿀 수 있습니다. 슬픈 얼굴.

행동을 취하는 대 주위에 앉아

UN AGI 보고서에 명시된 권고와 같은 AGI에 대한 지배 구조 조치를 취해야한다고 생각하십니까?

어떤 사람들은 그렇습니다. 우리는 즉시 행동해야합니다. 다른 사람들은 우리가 달콤한 시간을 보내는 것을 제안 할 것입니다. 그들을 서두르는 것보다 옳은 일을하는 것이 좋습니다. 여전히 다른 사람들은 아무것도 할 필요가 없다고 말할 수도 있습니다. 그냥 기다려보세요.

그 가시적 인 수수께끼에 대한 생각을위한 음식으로서, 여기 Albert Einstein의 기억에 남는 인용문이 있습니다. AGI 및 글로벌 거버넌스 문제에 대해 다음에해야 할 일에 대한 결정을 내 렸습니다.

인류의 운명은 가능성이 높습니다.

위 내용은 끔찍한 Agi와 Killer AI Superintelligence에서 세상을 구하기위한이 네 가지 중요한 행동을 고려한 유엔의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!