7 개의 주요 하이라이트 Geoffrey Hinton의 Superintelligent AI -Analytics Vidhya

AI의 대부가 당신에게“ 배관공이되기 위해 훈련하라고 말하면, 당신은 그것이 내 관심을 끌었던 것입니다. 최근 토론에서 Geoffrey Hinton은 Superintelligent AI의 잠재적 미래에 대해 이야기했으며,이 대화가 어떻게 전개되는지 궁금하다면 혼자가 아닙니다! 이 연설에서 힌튼은 인공 지능과 관련된 가장 큰 문제 중 일부, 즉 위험, 사회적 영향,이 모든 것이 인간으로서 우리에게 의미하는 바를 다루었습니다. 이 유명한 AI 개척자가 공유 한 주요 테이크 아웃과 생각을 살펴 보겠습니다.

내용 테이블

• Geoffrey Hinton 인터뷰의 주요 하이라이트
  • AI의 진화
  • AI가 작업에 미치는 영향
  • 두 종류의 AI 위험
  • AI로 인한 변화하는 직업 시장
  • 전쟁에서 AI
  • 수퍼 인텔리전스 위협
  • 규정 : 너무 적고 너무 늦었습니까?
• 결론

Geoffrey Hinton 인터뷰의 주요 하이라이트

잘 알려진 영국 기업가 인 Steven Bartlett이 주최 한 팟 캐스트“CEO의 Diary”에 등장한 Geoffrey Hinton은 현재의 사명에 대해 논의합니다.“ AI의 위험에 대해 사람들에게 경고합니다. ”우리가 기계가 인간보다 더 지능적이 될 수있는 전환점에 접근 할 수있는 전환점에 접근 할 수있는 시점에서 이러한 시스템에 대한 적절한 제어자가 이루어질 수 없다고 생각합니다.

토론에서 주목할만한 몇 가지 요점은 다음과 같습니다.

1. AI의 진화

Geoffrey Hinton은 신경망을 기반으로 한 AI 모델을 옹호하는 데 20 년이 넘는 시간을 보냈습니다. 처음에 그의 아이디어는 의심과 거부로 만났다. 그러나 오늘날 그의 작품은 현대 AI의 기초를 형성합니다. 힌튼은 재능있는 학생들과 함께 오늘날의 AI 기술을 강화하는 딥 러닝 개발에 중요한 역할을했습니다. 그가 AI가 인간 정보를 능가하는 방법에 대해 물었을 때, 힌튼은 자신이 그것을 깨닫는 데 느리다는 것을 인정했다. 그는 Chatgpt가 AI의 주요 이정표를 표시했으며, 인간의 감정을 이해하고 모방하는 것을 포함하여 기대 이상의 능력을 보여줍니다.

힌튼은 AI가 생물학적 지능과 근본적으로 다른 능력을 개발했다고 설명했다. 학습 속도가 빠르고 데이터 처리 용량이 높고 인간 능력을 훨씬 뛰어 넘는 규모의 운영으로 AI는 곧 인간 지능을 능가 할 수 있습니다. 이런 일이 발생하면 AI는 인간의 감독이나 설명없이 결정을 내릴 수 있습니다.

2. 일자리에 대한 AI의 영향

농담으로 시작하겠습니다. 그러나 정말 재미 있지 않습니다. Geoffrey Hinton이 AI 시대의 경력 옵션에 대해 물었을 때 농담으로 배관공이 될 것을 제안했습니다. 유머는 심각한 경고를 숨 깁니다. AI는 많은 지적 직업을 대체 할 가능성이 높습니다. AI가 더욱 발전함에 따라 일상적인인지 작업은 더 이상 인간의 입력을 요구할 필요가 없을 수 있습니다. LLM이 인간과 직접 경쟁하기 때문에 창의성과 복잡한 의사 결정과 관련된 역할조차도 안전하지 않습니다. 이는 사람들이 더 적은 수준의 일자리를 사용할 수 있음을 의미합니다.

3. 두 종류의 AI 위험

힌튼은 두 가지 주요 유형의 AI 위험을 설명했습니다. 첫 번째는 오용으로 인한 즉각적인 위협, 즉 사이버 공격, 사기 및 조작이 AI와 함께 더 효과적이고 위험 해지는 것과 같습니다. 위험에 관한 두 번째와 더 많은 것은 AI가 인간보다 훨씬 똑똑해질 때입니다. 힌튼은 그 단계에서 우리는 AI가 무엇을하고 있는지 또는 그것을 통제하는 방법조차 이해하지 못할 수도 있다고 주장한다. 예를 들어, 챗봇 데이터를 사용하여 대상 광고로 유권자를 조작 할 수 있습니다. YouTube 및 Facebook과 같은 플랫폼은 LLM을 사용하여 사람들의 감정을 악용하여 특정 의제를 푸시 할 수 있습니다.

4. AI로 인한 변화하는 직업 시장

힌튼이 제기 한 가장 시급한 우려 중 하나는 AI가 고용에 어떤 영향을 미치는지입니다. 많은 사람들이 AI를 인간 근로자를 지원하는 도구로보고 있지만, Hinton은 AI는 AI가 많은 직업, 특히 반복적 인 정신적 과제를 포함하는 직업을 제거 할 것이라고 경고합니다. 그는 건강 관리 분야에서 일하고 이제 AI를 사용하여 불만을 훨씬 더 빨리 처리하는 조카의 예를 제시했습니다. 이것은 AI가 이전에 상당한 인간 노력이 필요한 작업을 어떻게 대체하고 있는지 보여줍니다.

힌튼에 따르면, 의료 및 육체 노동과 같은 영역은 여전히 ​​안전 할 수 있지만 지적 노동과 관련된 직업은 점차 사라질 것입니다. 그러나 물리적으로 유능한 로봇이 널리 퍼지면 이러한 분야조차도 변할 수 있습니다.

5. AI 전쟁에서

힌튼은 전쟁에서 AI의 역할을 논의 할 때“ 치명적인 자율 무기”에 대한 우려를 표명했습니다. 이 기계들은 독립적으로 대상을 목표로하는 사람을 결정하여 전쟁이 어떻게 벌어 지는지를 변화시킬 수 있습니다. 국가가 병사의 상실을 피하기 때문에 최소한의 인간의 참여로 인해 갈등이 더 빈번 해지고 저항이 줄어들 수 있습니다. 이 무기는 인간보다 똑똑하지는 않지만 직접적인 인간의 입력없이 작동하여 예측할 수없고 위험합니다. 비용이 많이 들지만, 그러한 무기는 충분한 예산을 가진 국가들에게는 도달 할 수 있으므로 전통적인 군대보다 우위를 점할 것입니다.

또한 읽으십시오 : Sci-Fi처럼 들리는 Jensen Huang의 미래 예측

6. 수퍼 인텔리전스 위협

힌튼은 AI가 일단 초 지능에 도달하면 (모든면에서 인간을 능가하는 곳에서) 더 이상 인간의 필요 나 욕구에 의존하지 않을 것이라고 설명했다. 문제는 AI가 우리를 능가 할 수 있는지 여부가 아니라 우리를 완전히 제거하기로 결정하는지 여부입니다. 초 지성 AI는 인류를 목표에 위협으로보고 문명을 종식시킬 수있는 방식으로 행동 할 수 있습니다. Terminator 3에서 나오는 것처럼 들리지만 AI 안전을 위해 일하는 Hinton에게는 정말 걱정입니다. 이제 도전은 안전하고 안전하며 항상 통제하에있는 AI를 만드는 것입니다.

7. 규정 : 너무 적고 너무 늦었습니까?

Hinton은 특히 유럽에서 규정이 도입되고 있음을 인정하지만 AI의 위험의 전체 범위를 다루는 데 부족하다고 생각합니다. 예를 들어, 일부 법률은 AI의 군사 신청을 남기고 있습니다. 그는 또한 정부와 기업이 AI를 사용하여 선거에 영향을 미치고 인구를 관리하며 불평등을 심화시킬 수있는 방법을 강조했다.

우려가 증가 함에도 불구하고, 힌튼은 기술이 너무 가치 있고 글로벌 시스템에 깊이 내재되어 있기 때문에 AI 개발을 늦출 수 있다는 의심의 여지가 있습니다. 그에게 AI는 막을 수없는 힘으로 이미 너무 멀리 발전한 기술적 변화입니다.

참고 : 여기에서 전체 대화를들을 수 있습니다.

결론

이 인터뷰로 인해 긴급함이 느껴졌습니다. 그가 묘사 한 위험은 매우 현실적입니다. AI는 의료, 교육 및 생산성을 활용하는 우리의 삶을 개선 할 수있는 놀라운 기회를 제공하지만 사회가 준비가 잘되지 않는 심각한 위험을 초래합니다. 일자리 손실에서 자율 무기에 이르기까지 AI의 효과는 우리가 준비하지 않은 방식으로 세상을 재구성 할 수 있습니다.

힌튼의 메시지는 분명합니다. 우리는 AI 안전에 크게 투자해야합니다. 우리가 AI의 미래를 진정으로 통제 할 수 있는지 여부는 여전히 불확실합니다. 그러나 우리가 시도하지 않으면, 우리는 치명적인 결과로 AI가 지배하는 미래에 직면 할 위험이 있습니다.

이 대화를 반영하면서, 나는 답보다 더 많은 질문을한다. 그러나 한 가지 확실한 점은 우리가 완전히 이해하는 것보다 훨씬 큰 무언가의 가장자리에 서 있습니다. AI는 인류의 가장 큰 업적이거나 최악의 실수 일 수 있습니다. 선택과 책임은 우리와 함께합니다.

위 내용은 7 개의 주요 하이라이트 Geoffrey Hinton의 Superintelligent AI -Analytics Vidhya의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!