글로벌 AI 추론 전력 소비에 대한 증가하는 수요는 두 개의 새로운 원자력 발전소를 추가함으로써 충족될 수 있습니다.

IT 하우스 뉴스 11월 14일, Meta Generative Artificial Intelligence 엔지니어링 디렉터인 Sergey Edunov는 최근 Silicon Valley Digital Workers Forum에서 인공 지능 추론에 대한 수요에 대한 예측을 공유했습니다. 그는 합리적인 규모의 언어 모델을 사용한다면 내년의 전 세계 인공지능 응용 추론에 대한 새로운 수요는 원자력 발전소 2기의 발전만으로도 충족될 수 있다고 믿습니다.

이미지 출처: Pexels

인공지능 추론이란 이미 훈련된 인공지능 모델을 사용하여 텍스트 생성, 질문에 답하기, 이미지 인식 등 실제 시나리오에서 다양한 작업을 수행하는 것을 말합니다. Edunov는 간단한 수학적 계산을 사용하여 내년에 필요한 전 세계 추론 전력 소비량을 추정했다고 말했습니다. 그는 내년에 전 세계적으로 각각 약 1kW의 전력을 갖춘 100만~200만 개의 새로운 Nvidia H100 그래픽 프로세서가 있을 것이라고 가정합니다. 각 프로세서가 하루 24시간 실행된다면 각 사람은 매일 100,000개의 "토큰"을 생성할 수 있습니다. 그는 이러한 전력 소비가 인간 수준에서 합리적이라고 믿습니다. 세계에는 충분한 전력을 공급하기 위해 두 개의 새로운 원자력 발전소만 필요합니다

그러나 IT House는 Edunov도 인공 지능의 발전이 몇 가지 도전과 한계에 직면해 있음을 지적했다는 점에 주목했습니다. 그 중 하나가 데이터 양의 문제이다. 현재 인공지능 모델을 훈련하려면 많은 양의 데이터가 필요하지만, 공개 인터넷 데이터로는 더 이상 차세대 모델의 훈련을 지원하기에 충분하지 않습니다. 차세대 모델에는 10배의 데이터 양이 필요할 수 있습니다. 이는 보다 전문적인 도메인 데이터 또는 비디오, 오디오 등과 같은 다중 모드 데이터가 더 많이 필요하다는 것을 의미합니다. 또 다른 과제는 공급망 문제입니다. 글로벌 칩 생산 능력이 부족하기 때문에 인공지능 모델의 개선 속도에도 영향을 미칠 것입니다. 따라서 연구자들은 모델 효율성을 개선하고 데이터 및 하드웨어에 대한 의존도를 줄이기 위해 노력하고 있습니다. 예를 들어, Salesforce는 모델 크기를 자동으로 조정하고 다양한 작업 및 리소스 요구 사항에 따라 모델을 동적으로 축소하거나 확장할 수 있는 Blib-2라는 기술을 개발했습니다

업계 전문가들의 일반적인 견해에 따르면, 언어 모델은 향후 2년 동안 기업에 엄청난 가치를 가져올 것입니다. Edunov는 3~4년 안에 현재 기술이 일반 인공지능을 달성할 수 있는지 여부를 알게 될 것이라고 예측합니다

위 내용은 글로벌 AI 추론 전력 소비에 대한 증가하는 수요는 두 개의 새로운 원자력 발전소를 추가함으로써 충족될 수 있습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!