Kemajuan cip AI yang dibangunkan sendiri oleh Meta: cip AI pertama akan dilancarkan pada 2025, serta cip AI video

Berita 19 Mei, menurut media asing Techcrunch, dalam acara dalam talian pagi ini, syarikat induk Facebook Meta mendedahkan buat pertama kalinya kemajuan cip AI yang dibangunkan sendiri, yang boleh menyokong reka bentuk pengiklanan yang dilancarkan baru-baru ini dan AI Generatif. teknologi untuk alat kreatif.

△Ketua Pegawai Eksekutif Meta Zuckerberg mempamerkan cip AI pertama yang dibangunkan sendiri MTIA

Naib Presiden Infrastruktur Meta Alexis Bjorlin berkata: “Membina keupayaan [perkakasan] kami sendiri memberi kami kawalan ke atas setiap lapisan timbunan, daripada reka bentuk pusat data kepada rangka kerja latihan. Terdapat keperluan untuk ini tahap integrasi Menegak boleh menolak sempadan penyelidikan kecerdasan buatan secara besar-besaran.”

Cip AI yang dibangunkan sendiri pertama MTIA

Sepanjang dekad yang lalu atau lebih, Meta telah membelanjakan berbilion dolar untuk merekrut saintis data terkemuka dan membina jenis kecerdasan buatan baharu, termasuk kini enjin penemuan, penapis penyederhanaan dan pengesyor iklan merentas apl dan perkhidmatannya Dikuasakan oleh kecerdasan buatan. Syarikat ini telah berusaha untuk menjadikan banyak inovasi penyelidikan AI yang bercita-cita tinggi menjadi produk, terutamanya dalam bidang AI generatif.

Sejak 2016, syarikat Internet terkemuka telah giat membangunkan cip AI awan. Google telah mereka bentuk dan menggunakan cip AI yang dibangunkan sendiri yang dipanggil Tensor Processing Units (TPU) untuk melatih sistem AI generatif seperti PaLM-2, Imagen, dsb. Amazon menyediakan pelanggan AWS dengan dua cip AI yang dibangunkan sendiri, AWS Trainium dan AWS Inferentia cip untuk aplikasi. Microsoft juga dikhabarkan akan bekerjasama dengan AMD untuk membangunkan cip AI yang dipanggil Athena.

Sebelum ini, Meta telah menggunakan gabungan CPU pihak ketiga dan cip tersuai yang direka untuk mempercepatkan algoritma AI untuk menjalankan beban kerja AInya—CPU cenderung kurang cekap berbanding GPU dalam memproses tugasan tersebut. Untuk mengubah keadaan, Meta membangunkan cip AI dibangunkan sendiri generasi pertama MTIA (MTIA v1) berdasarkan proses 7nm pada tahun 2020.

Meta memanggil cip AI Meta Training and Inference Accelerator, atau singkatannya MTIA, dan menerangkannya sebagai sebahagian daripada "keluarga" cip AI yang mempercepatkan latihan AI dan beban kerja inferens. MTIA ialah ASIC, cip yang menggabungkan litar berbeza pada satu substrat, membolehkan ia diprogramkan untuk melaksanakan satu atau lebih tugas secara selari.

“Untuk mencapai tahap kecekapan dan prestasi yang lebih tinggi merentas beban kerja kritikal kami, kami memerlukan penyelesaian tersuai yang direka-reka bersama dengan model, susunan perisian dan perkakasan sistem untuk menjadikan pelbagai perkhidmatan lebih cekap untuk pengguna kami pengalaman," jelas Bjorlin.

Menurut pengenalan, MTIA v1 dihasilkan menggunakan proses 7nm, dan memori 128MB dalamannya boleh dikembangkan sehingga 128GB. Meta berkata bahawa MTIA boleh digunakan khas untuk mengendalikan kerja yang berkaitan dengan sistem pengesyoran AI, membantu pengguna mencari kandungan siaran terbaik dan membentangkannya kepada pengguna dengan lebih pantas, dan prestasi pengkomputeran dan kecekapan pemprosesannya lebih baik daripada CPU. Selain itu, dalam ujian penanda aras reka bentuk Meta, MTIA juga lebih cekap daripada GPU dalam memproses model AI "kerumitan rendah" dan "kerumitan sederhana".

Meta berkata bahawa masih terdapat beberapa kerja yang perlu dilakukan dalam kawasan ingatan dan rangkaian cip MTIA Apabila skala model AI berkembang, ini akan mewujudkan kesesakan dan memerlukan beban kerja diagihkan pada berbilang cip. Baru-baru ini, Meta telah memperoleh pasukan teknologi rangkaian AI Graphcore cip unicorn British yang berpangkalan di Oslo untuk tujuan ini. Pada masa ini, MTIA lebih menumpukan pada keupayaan inferens daripada keupayaan latihan untuk "beban kerja yang disyorkan" keluarga aplikasi Meta.

Meta menekankan bahawa ia akan terus menambah baik MTIA, yang telah "dengan ketara" meningkatkan kecekapan syarikat dari segi prestasi per watt apabila menjalankan beban kerja yang disyorkan - seterusnya membenarkan Meta menjalankan "lebih dipertingkatkan" dan "terdepan" tiruan beban kerja perisikan.

Mengikut rancangan, Meta secara rasmi akan melancarkan cip MTIA yang dibangunkan sendiri pada tahun 2025.

RSC superkomputer AI Meta

Menurut laporan, Meta pada asalnya merancang untuk melancarkan cip AI tersuai yang dibangunkan sendiri secara besar-besaran pada tahun 2022, tetapi akhirnya menangguhkannya dan sebaliknya memesan GPU Nvidia bernilai berbilion dolar untuk superkomputer Research SuperCluster (RSC). yang memerlukan reka bentuk semula utama berbilang pusat datanya.

Menurut laporan, RSC memulakan kerjayanya pada Januari 2022 dan telah dipasang dengan kerjasama Penguin Computing, Nvidia dan Pure Storage, dan telah menyelesaikan fasa kedua pengembangan. Meta mengatakan ia kini mengandungi sejumlah 2,000 sistem Nvidia DGX A100, dilengkapi dengan 16,000 GPU Nvidia A100.

Walaupun, kuasa pengkomputeran semasa RSC telah ketinggalan berbanding superkomputer AI Microsoft dan Google. Google mendakwa superkomputer tertumpu AI dikuasakan oleh 26,000 GPU Nvidia H100. Meta menyatakan bahawa kelebihan RSC ialah ia membolehkan penyelidik melatih model menggunakan contoh sebenar daripada sistem pengeluaran Meta. Tidak seperti infrastruktur AI syarikat sebelum ini, yang memanfaatkan sumber terbuka dan set data yang tersedia secara umum, infrastruktur ini kini tersedia.

Superkomputer AI RSC sedang memajukan penyelidikan AI dalam pelbagai bidang, termasuk AI generatif, menolak sempadan penyelidikan. "Ini benar-benar mengenai produktiviti penyelidikan AI," kata jurucakap Meta. Kami mahu menyediakan penyelidik AI dengan infrastruktur terkini yang membolehkan mereka membangunkan model dan menyediakan mereka dengan platform latihan untuk memajukan AI. ”

Meta mendakwa bahawa pada kemuncaknya, RSC boleh mencapai hampir 5 exaflop kuasa pengkomputeran, menjadikannya salah satu yang terpantas di dunia.

Meta menggunakan RSC untuk latihan LLaMA, di mana RSC merujuk kepada akronim untuk "Model Bahasa Berskala Besar Meta Artificial Intelligence". Meta mengatakan model LLaMA terbesar telah dilatih pada 2,048 GPU A100 dan mengambil masa 21 hari.

"Membina keupayaan superkomputer kami sendiri memberi kami kawalan ke atas setiap lapisan timbunan daripada reka bentuk pusat data kepada rangka kerja latihan," kata jurucakap Meta menambah: "RSC akan membantu penyelidik AI Meta membina model AI baharu dan lebih baik yang boleh belajar daripada trilion contoh; bekerja merentasi ratusan bahasa yang berbeza untuk menganalisis teks, imej dan video dengan lancar.”

Pada masa hadapan, Meta mungkin memperkenalkan MTIA cip AI yang dibangunkan sendiri ke dalam RSC untuk meningkatkan lagi prestasi AInya.

MSVP cip AI untuk pemprosesan video

Selain MTIA, Meta juga sedang membangunkan satu lagi cip AI yang dipanggil Meta Scalable Video Processor (MSVP), yang direka terutamanya untuk memenuhi keperluan pemprosesan data yang semakin meningkat bagi video atas permintaan dan penstriman langsung yang akhirnya diharapkan oleh Meta kerja pemprosesan kandungan audio dan video yang matang dan stabil dilakukan oleh MSVP.

Malah, Meta mula memikirkan cip pemprosesan video sebelah pelayan tersuai bertahun-tahun yang lalu, dan mengumumkan pelancaran ASIC untuk kerja transkod dan inferens video pada 2019. Ini adalah kemuncak beberapa usaha tersebut dan dorongan baharu untuk kelebihan daya saing. Terutamanya dalam bidang penstriman video secara langsung.

"Di Facebook sahaja, orang menghabiskan 50% masa mereka menonton video," pengarah teknikal Meta Harikrishna Reddy dan Yunqing Chen menulis dalam catatan blog yang diterbitkan pada pagi 19: "Untuk berkhidmat kepada dunia Merentasi pelbagai peranti di mana-mana sahaja (mudah alih, komputer riba, TV, dsb.), video yang dimuat naik ke Facebook atau Instagram ditranskodkan ke dalam berbilang aliran bit dengan format pengekodan, resolusi dan kualiti yang berbeza... MSVP boleh diprogramkan dan Berskala serta boleh dikonfigurasikan untuk menyokong dengan cekap tinggi- transkod kualiti diperlukan untuk VOD serta kependaman yang rendah dan masa pemprosesan yang lebih pantas diperlukan untuk penstriman langsung ”

△MSVP

Meta mengatakan rancangannya adalah untuk akhirnya memuatkan kebanyakan beban kerja pemprosesan video yang "stabil dan matang" kepada MSVP dan hanya menggunakan pengekodan video perisian untuk beban kerja yang memerlukan penyesuaian khusus dan kualiti yang lebih tinggi "dengan ketara". Meta berkata kami akan terus meningkatkan kualiti video dengan MSVP menggunakan kaedah pra-pemprosesan seperti pengurangan hingar pintar dan peningkatan imej, serta kaedah pasca pemprosesan seperti penyingkiran artifak dan resolusi super.

"Pada masa hadapan, MSVP akan membolehkan kami menyokong lebih banyak kes penggunaan dan keperluan Meta yang paling penting, termasuk video pendek - membolehkan penyampaian AI generatif, AR/VR dan kandungan Metaverse lain yang cekap," kata Reddy dan Chen.

Editor: Xinzixun-Rurounijian

Atas ialah kandungan terperinci Kemajuan cip AI yang dibangunkan sendiri oleh Meta: cip AI pertama akan dilancarkan pada 2025, serta cip AI video. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!