초지능이란 정확히 무엇인가?

초지능의 발전은 과학자들 사이에서 끝없는 논쟁의 주제입니다. 초지능은 인공일반지능(AGI)이라는 보다 전통적인 개념에서 발전했습니다. 향후 10년 동안 이 강력한 기술은 중요한 글로벌 문제를 해결하고 잠재적으로 인권의 상실이나 소멸을 초래할 수 있는 잠재력을 갖고 있습니다.

OpenAI(미국 인공 지능 연구 회사)의 전략에는 연구자를 인간 수준의 능력과 자동으로 정렬하고 대규모 컴퓨팅 리소스를 활용하여 초지능을 반복적으로 훈련하고 정렬하는 것이 포함됩니다. 초지능 정렬이라고 불리는 이 프로세스에는 AI 정렬 기술에 대한 혁신, 광범위한 검증 및 적대적 스트레스 테스트가 필요합니다.

이 문제를 해결하기 위해 OpenAI는 상당한 자원과 연구에 투자하고 있으며 뛰어난 연구원과 엔지니어가 함께 일할 수 있도록 적극적으로 장려합니다. 그러나 일반 인공지능에서 초지능으로의 용어 전환이 인공지능의 위험과 이점을 둘러싼 현재 진행 중인 논쟁에 지대한 영향을 미칠지는 아직 지켜봐야 할 것입니다.

주요 글로벌 문제를 해결할 수 있는 능력을 갖추고 역사상 가장 영향력 있는 기술 중 하나로 여겨지는 OpenAI는 초지능의 잠재력을 강조합니다. 그럼에도 불구하고, 그것은 권력 상실이나 심지어 인류의 멸종으로 이어질 수 있는 초지능과 관련된 엄청난 위험을 인정합니다.

OpenAI는 초지능이 손에 닿지 않는 것처럼 보이지만 향후 10년 안에 가능하다고 믿습니다. 초지능을 인간의 의도와 일치시키는 과제를 해결하려면 이러한 위험을 관리하기 위한 새로운 거버넌스 기관을 설립해야 합니다. 놀랍게도 OpenAI가 사용하는 용어는 전통적인 인공지능(AGI)이 아닙니다. 그 이유는 다음과 같습니다.

우리는 더 높은 수준의 능력을 부각시키기 위해 일반 인공지능보다는 초지능에 더 중점을 둡니다. 우리는 향후 몇 년 동안 이 기술이 얼마나 빨리 발전할 것인지에 대해 많은 불확실성을 갖고 있으므로 더 유능한 시스템을 보정하기 위해 더 어려운 목표를 목표로 선택하고 있습니다.

현재 AI 정렬 기술은 인간의 피드백을 기반으로 개선할 수 있는 강화 학습과 같은 몇 가지 방법이 있지만 잠재적인 초지능 AI를 완전히 제어할 수 없습니다. 인간은 우리보다 훨씬 똑똑한 시스템을 안정적으로 감독할 수 없으며 기존 기술은 초지능 영역으로 확장될 수 없습니다. OpenAI는 이러한 과제를 극복하기 위한 과학적, 기술적 혁신의 필요성을 강조합니다.

OpenAI의 접근 방식은 대략 인간 수준에 가까운 기능을 갖춘 자동 정렬 연구원을 개발하는 것을 목표로 합니다. 그들의 노력을 확장하고 반복적으로 초지능을 미세 조정하는 데 막대한 컴퓨팅 리소스가 사용될 것입니다. 이 작업의 주요 단계에는 확장 가능한 훈련 방법 개발, 생성된 모델 검증, 정렬 파이프라인 스트레스 테스트가 포함됩니다. OpenAI 발표 제목에 따르면 이 개념은 초지능 정렬이라고 합니다.

도전적인 작업에 대한 인간의 평가 어려움을 극복하기 위해 확장 가능한 감독을 사용하여 인공 지능 시스템의 도움으로 이를 해결할 수 있습니다. 일관성을 확인하는 데 중요한 감독은 감독되지 않는 작업에 적용되고 문제가 있는 행동과 내부 구조를 감지해야 합니다. 정렬되지 않은 모델을 훈련하는 것은 정렬 기술의 효율성을 검증하는 데 도움이 되는 적대적 테스트 방법이기도 합니다.

OpenAI는 이 문제에 대해 더 많은 정보가 밝혀지면 연구 초점이 바뀔 것으로 예상하고 향후 로드맵을 공유할 계획입니다. 그들은 초지능 정렬 문제를 해결하는 데 중점을 둔 최고의 기계 학습 연구원 및 엔지니어로 팀을 구성했습니다. 향후 4년 동안 OpenAI는 전체 컴퓨팅 성능의 20%를 이 작업에 투자할 것입니다.

성공이 보장되지는 않지만 OpenAI는 이 문제가 집중적이고 공동의 노력으로 해결될 수 있다고 낙관하고 있습니다. 그들의 목표는 기계 학습 및 안전 커뮤니티에 문제가 해결되었음을 확신시키기 위한 증거와 주장을 제공하는 것이며, 더 광범위한 인간 및 사회 문제를 고려하기 위해 다양한 분야의 전문가와 적극적으로 협력하고 있습니다.

OpenAI는 과거에 정렬 작업에 참여하지 않은 뛰어난 연구자와 엔지니어도 이러한 노력에 동참할 수 있도록 환영합니다. 그들은 초지능 정렬을 해결되지 않은 가장 중요한 기술 문제 중 하나로 간주하고 상당한 기여 가능성이 있는 다루기 쉬운 기계 학습 문제로 간주합니다.

인공지능, 일반 인공지능, 그리고 실용성과 인간 파괴가 복잡하게 상호 연결된 문제를 둘러싼 격렬한 논쟁이 새로운 분열을 만들어내고 있는 것 같습니다. 오늘날에는 어휘가 다소 바뀌었지만 이것이 과학인지 의미론인지는 확실하지 않습니다.

위 내용은 초지능이란 정확히 무엇인가?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!