메타 자체 개발 AI칩 진전: 2025년 첫 AI칩 출시, 영상 AI칩도 나올 예정

5월 19일 외신 테크크런치에 따르면, 페이스북 모회사인 메타는 오늘 오전 온라인 행사에서 최근 출시한 광고 디자인 및 제작 도구인 제너레이티브 AI(Generative AI)를 지원할 수 있는 자체 개발 AI 칩의 진행 상황을 처음으로 공개했다. 기술.

ΔMeta CEO Zuckerberg가 자체 개발한 최초의 AI 칩 MTIA를 선보입니다

Meta 인프라 담당 부사장 Alexis Bjorlin은 다음과 같이 말했습니다. “자체 [하드웨어] 기능을 구축하면 데이터 센터 설계부터 교육 프레임워크까지 스택의 모든 계층을 제어할 수 있습니다. 인공지능 연구의 경계.”

최초 자체 개발 AI 칩 MTIA

지난 10여 년 동안 Meta는 최고의 데이터 과학자를 모집하고 새로운 유형의 인공 지능을 구축하는 데 수십억 달러를 투자했습니다. 여기에는 현재 앱과 인공 지능 서비스 전반에 걸쳐 검색 엔진, 중재 필터, 광고 추천 기능이 포함됩니다. 이 회사는 특히 생성 AI 분야에서 야심 찬 AI 연구 혁신을 제품으로 전환하기 위해 노력해 왔습니다.

2016년부터 인터넷 굴지의 기업들이 클라우드 AI 칩 개발에 적극적으로 나서고 있습니다. Google은 PaLM-2, Imagen 등과 같은 생성 AI 시스템 교육을 위해 TPU(Tensor Processor Unit)라는 자체 개발 AI 칩을 설계 및 배포해 왔습니다. Amazon은 AWS 고객에게 자체 개발한 AI 칩인 AWS Trainium과 AWS를 제공합니다. 응용 프로그램용 칩입니다. 마이크로소프트도 AMD와 협력해 아테나(Athena)라는 AI 칩을 개발하고 있다는 소문이 돌았다.

이전에 Meta는 AI 워크로드를 실행하기 위해 AI 알고리즘을 가속화하도록 설계된 타사 CPU와 맞춤형 칩의 조합을 주로 사용했습니다. 이러한 작업을 처리할 때 CPU는 GPU보다 효율성이 떨어지는 경향이 있습니다. 이러한 상황을 반전시키기 위해 메타는 2020년 7nm 공정 기반의 1세대 자체 개발 AI 칩 MTIA(MTIA v1)를 개발했습니다.

Meta는 AI 칩을 Meta Training and Inference Accelerator, 줄여서 MTIA라고 부르며 AI 훈련 및 추론 워크로드를 가속화하는 AI 칩 "패밀리"의 일부로 설명합니다. MTIA는 단일 기판에 다양한 회로를 결합한 칩인 ASIC으로, 하나 이상의 작업을 병렬로 수행하도록 프로그래밍할 수 있습니다.

“중요한 워크로드에서 더 높은 수준의 효율성과 성능을 달성하려면 사용자 경험을 위한 다양한 서비스를 개선하기 위해 모델, 소프트웨어 스택 및 시스템 하드웨어와 공동 엔지니어링된 맞춤형 솔루션이 필요했습니다.”라고 Bjorlin은 설명했습니다.

소개에 따르면 MTIA v1은 7nm 공정으로 제조되며 내부 128MB 메모리는 최대 128GB까지 확장이 가능합니다. Meta는 MTIA가 AI 추천 시스템과 관련된 작업을 처리하는 데 특별히 사용될 수 있어 사용자가 최고의 게시물 콘텐츠를 찾아 더 빠르게 사용자에게 제공할 수 있도록 돕고 컴퓨팅 성능과 처리 효율성이 CPU보다 우수하다고 말했습니다. 또한 Meta 디자인의 벤치마크 테스트에서 MTIA는 "낮은 복잡도" 및 "중간 복잡도" AI 모델을 처리하는 데 있어서 GPU보다 더 효율적입니다.

Meta는 MTIA 칩의 메모리 및 네트워크 영역에서 아직 수행해야 할 작업이 남아 있다고 말했습니다. AI 모델의 규모가 커지면 병목 현상이 발생하고 작업 부하가 여러 칩에 분산되어야 합니다. 최근 메타는 이를 위해 오슬로에 본사를 둔 영국 칩 유니콘 그래프코어의 AI 네트워크 기술팀을 인수했다. 현재 MTIA는 Meta 애플리케이션 제품군의 "권장 워크로드"에 대한 교육 기능보다 추론 기능에 더 중점을 두고 있습니다.

Meta는 권장 워크로드를 실행할 때 와트당 성능 측면에서 회사의 효율성을 "현저하게" 향상시켜 Meta가 "더 향상된" "최첨단" 인공 지능 워크로드를 실행할 수 있도록 하는 MTIA를 지속적으로 개선할 것이라고 강조했습니다. .

계획에 따르면 메타는 2025년 자체 개발한 MTIA 칩을 공식 출시할 예정이다.

Meta의 AI 슈퍼컴퓨터 RSC

보도에 따르면 Meta는 원래 자체 개발한 맞춤형 AI 칩을 2022년에 대규모로 출시할 계획이었지만 결국 이를 연기하고 대신 슈퍼컴퓨터 RSC(Research SuperCluster)를 위해 수십억 달러 상당의 Nvidia GPU를 주문했습니다. 여러 데이터 센터 중 하나가 필요했습니다.

보도에 따르면 RSC는 2022년 1월 데뷔해 펭귄컴퓨팅(Penguin Computing), 엔비디아(Nvidia), 퓨어스토리지(Pure Storage)와 파트너십을 맺고 2단계 확장을 완료했다. Meta는 현재 16,000개의 Nvidia A100 GPU가 장착된 총 2,000개의 Nvidia DGX A100 시스템을 보유하고 있다고 말합니다.

하지만 RSC의 현재 컴퓨팅 성능은 Microsoft와 Google의 AI 슈퍼컴퓨터에 비해 뒤떨어져 있습니다. Google은 자사의 AI 중심 슈퍼컴퓨터가 26,000개의 Nvidia H100 GPU로 구동된다고 주장합니다. Meta는 RSC의 장점은 연구원들이 Meta의 생산 시스템의 실제 사례를 사용하여 모델을 훈련할 수 있다는 점에 주목했습니다. 오픈 소스와 공개적으로 사용 가능한 데이터 세트를 활용했던 회사의 이전 AI 인프라와 달리 이제 이 인프라를 사용할 수 있습니다.

RSC AI 슈퍼컴퓨터는 생성 AI를 포함한 여러 분야에서 AI 연구를 발전시켜 연구의 경계를 넓히고 있습니다. 메타 대변인은 "이것은 실제로 AI 연구의 생산성에 관한 것"이라고 말했습니다. 우리는 AI 연구자들에게 모델을 개발할 수 있는 최첨단 인프라를 제공하고 AI 발전을 위한 교육 플랫폼을 제공하고자 합니다. ”

Meta는 RSC가 최고조에 달할 때 거의 5엑사플롭스의 컴퓨팅 성능에 도달하여 세계에서 가장 빠른 RSC 중 하나가 될 수 있다고 주장합니다.

Meta는 LLaMA 교육에 RSC를 사용합니다. 여기서 RSC는 "Large Scale Language Model Meta Artificial Intelligence"의 약어를 나타냅니다. Meta는 가장 큰 LLaMA 모델이 2,048개의 A100 GPU에서 훈련되었으며 21일이 걸렸다고 말합니다.

Meta 대변인은 “자체 슈퍼컴퓨팅 기능을 구축하면 데이터 센터 설계부터 교육 프레임워크까지 스택의 모든 계층을 제어할 수 있습니다.”라고 덧붙였습니다. “RSC는 Meta의 AI 연구원이 수조 개의 데이터로부터 학습할 수 있는 새롭고 더 나은 AI 모델을 구축하는 데 도움이 될 것입니다. 수백 가지 언어로 작업하고, 텍스트, 이미지, 비디오를 원활하게 분석하고, 새로운 증강 현실 도구 등을 개발합니다.”

향후 Meta는 AI 성능을 더욱 향상시키기 위해 자체 개발한 AI 칩 MTIA를 RSC에 도입할 수도 있습니다.

영상 처리용 AI 칩 MSVP

MTIA 외에도 Meta는 MSVP(Meta Scalable Video Processor)라는 또 다른 AI 칩을 개발 중입니다. 이 칩은 주로 주문형 비디오 및 라이브 스트리밍의 증가하는 데이터 처리 요구를 충족하도록 설계되었습니다. 영상 콘텐츠 처리 업무는 MSVP에서 수행합니다.

사실 Meta는 수년 전부터 맞춤형 서버 측 비디오 처리 칩을 구상하기 시작했으며 2019년에 비디오 트랜스코딩 및 추론 작업을 위한 ASIC 출시를 발표했습니다. 이는 이러한 노력의 정점이자 경쟁 우위를 위한 새로운 추진력입니다. 특히 라이브 비디오 스트리밍 분야에서 그렇습니다.

메타 기술 디렉터 하리크리슈나 레디(Harikrishna Reddy)와 첸 윤칭(Yunqing Chen)은 19일 오전 공개된 블로그 게시물에서 “페이스북에서만 사람들은 시간의 50%를 동영상을 보는 데 보낸다”고 썼다. Facebook 또는 Instagram은 다양한 장치(모바일, 노트북, TV 등)에 대해 다양한 인코딩 형식, 해상도 및 품질을 사용하여 여러 비트스트림으로 트랜스코딩됩니다. MSVP는 프로그래밍 및 확장이 가능하며 필요한 고품질 트랜스코딩을 효율적으로 지원하도록 구성할 수 있습니다. VOD는 물론 라이브 스트리밍에 필요한 짧은 지연 시간과 빠른 처리 시간도 필요합니다.”

ΔMSVP

Meta는 궁극적으로 대부분의 "안정적이고 성숙한" 비디오 처리 워크로드를 MSVP로 오프로드하고 특정 사용자 정의 및 "상당히" 더 높은 품질이 필요한 워크로드에만 소프트웨어 비디오 인코딩을 사용할 계획이라고 말합니다. Meta는 지능형 노이즈 감소, 이미지 향상 등의 전처리 방법과 아티팩트 제거, 초해상도 등의 후처리 방법을 사용하여 MSVP를 통해 지속적으로 비디오 품질을 향상시킬 것이라고 말합니다.

“미래에는 MSVP를 통해 짧은 형식의 비디오를 포함하여 Meta의 가장 중요한 사용 사례와 요구 사항을 더 많이 지원할 수 있게 되어 생성 AI, AR/VR 및 기타 Metaverse 콘텐츠를 효율적으로 전달할 수 있게 될 것입니다.”라고 Reddy와 Chen은 말했습니다.

편집자: Xinzhixun-Ruruuni Sword

위 내용은 메타 자체 개발 AI칩 진전: 2025년 첫 AI칩 출시, 영상 AI칩도 나올 예정의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!