Menggunakan rangkaian teragih untuk menyambungkan GPU terbiar secara bersiri, pemula ini mendakwa dapat mengurangkan kos latihan model AI sebanyak 90%

API Monster menggunakan kuasa pengkomputeran GPU seperti peralatan perlombongan untuk melatih model AI

GPU sering digunakan untuk melombong mata wang kripto seperti Bitcoin , dan perlombongan ialah proses intensif sumber yang memerlukan kuasa pengkomputeran yang berkuasa.

Gembar-gembur mata wang kripto pernah menyebabkan kekurangan GPU di pasaran Memandangkan harga melambung tinggi, perniagaan dan individu beralih kepada GPU Nvidia untuk industri permainan dan mengubahnya menjadi GPU khusus untuk peralatan perlombongan kripto.

Namun, apabila kegilaan mata wang kripto semakin reda, banyak peralatan perlombongan kripto telah ditutup atau ditinggalkan. Ini membuatkan pengasas Monster API Gaurav Vij menyedari bahawa mereka boleh menggunakan semula dan menyesuaikan peranti ini untuk menyesuaikan diri dengan trend pembangunan intensif pengkomputeran terkini, iaitu untuk melatih dan menjalankan model AI asas.

Walaupun GPU ini tidak mempunyai kuasa peralatan AI khusus yang digunakan oleh AWS atau Google Cloud, Gaurav Vij berkata mereka mampu melatih model sumber terbuka yang dioptimumkan dengan kos menggunakan penyedia pengkomputeran awan. sebahagian daripada peranti pengkomputeran skala yang sangat besar.

Pengasas bersama Monster API Saurabh Vij berkata: “Bidang pembelajaran mesin sebenarnya bergelut dengan kuasa pengkomputeran kerana permintaan telah melebihi bekalan Hari ini, banyak pembangun pembelajaran mesin membelanjakan banyak wang bergantung pada AWS , Google Cloud, Microsoft Azure dan penyedia perkhidmatan awan lain untuk mendapatkan sumber ”

Rangkaian kuasa pengkomputeran teragih boleh mengurangkan kos latihan model asas AI dengan ketara

Malah, sebagai tambahan kepada peralatan perlombongan penyulitan, GPU yang tidak digunakan. juga boleh didapati dalam sistem permainan seperti PlayStation 5 dan pusat data yang lebih kecil. Saurabh Vij berkata: “Platform perlombongan Crypto menggunakan GPU, sistem permainan menggunakan GPU dan GPU menjadi lebih berkuasa setiap tahun

Menyertai rangkaian teragih memerlukan beberapa langkah, termasuk menunggu semakan keselamatan data. Melibatkan kuasa pengkomputeran perusahaan dan individu. Penuntut menambah peralatan mengikut keperluan dan mengembangkan serta mengecilkan rangkaian kuasa pengkomputeran. Bahagian bekalan boleh memperoleh sebahagian daripada hasil daripada menjual kuasa pengkomputeran terbiar.

Saurabh Vij menekankan bahawa sistem pengkomputeran yang diedarkan mengurangkan kos latihan model AI asas sehingga mereka boleh dilatih oleh organisasi sumber terbuka dan bukan untung pada masa hadapan, bukan hanya syarikat teknologi besar dengan sumber kewangan yang mendalam. . Berbanding dengan membina model AI asas yang berharga $1 juta, rangkaian terdesentralisasi seperti kami hanya berharga $100,000. ”

Geek.com mengetahui bahawa API Monster kini turut menyediakan alatan “bebas kod” untuk memperhalusi model dan terbuka kepada pengguna tanpa kepakaran teknikal atau sumber, membolehkan mereka melatih model dari awal ke lebih lanjut “ democratize” Kuasa pengkomputeran dan model asas AI

Adalah penting untuk memperhalusi kerana ramai pembangun tidak mempunyai jumlah data dan dana yang mencukupi untuk melatih semula model itu telah dikurangkan disebabkan oleh pengoptimuman API Monster 90%, menghasilkan kos penalaan halus kira-kira $30 setiap model

Latihan model sumber terbuka boleh membantu pembangun berinovasi dengan AI

Manakala pembangun AI. menghadapi peraturan yang menjulang, ini mungkin Model latihan dan sumber terbuka ini terjejas secara langsung, tetapi Saurabh Vij percaya bahawa latihan model sumber terbuka mempunyai aspek positif API Monster telah mengiktiraf keperluan untuk mengurus potensi risiko dalam rangkaian terdesentralisasi dan memastikan "kebolehkesanan, ketelusan. dan akauntabiliti. ".

"Walaupun pihak berkuasa kawal selia mungkin menang dalam jangka pendek, saya mempunyai keyakinan besar terhadap komuniti sumber terbuka dan perkembangannya yang sangat pesat.". Terdapat 25 juta pemaju berdaftar di Posman (pembangunan API platform), sebahagian besar daripadanya sedang membina AI generatif, yang membuka perniagaan baharu dan peluang baharu untuk semua orang," katanya.

Geek.com mengetahui bahawa dengan melatih model AI kos rendah, matlamat Monster API adalah untuk membolehkan pembangun memaksimumkan penggunaan pembelajaran mesin untuk inovasi. Pada masa ini, mereka sudah mempunyai beberapa model AI yang terkenal (seperti Stable Diffusion dan Whisper) yang boleh diperhalusi Selain itu, pengguna juga boleh menggunakan kuasa pengkomputeran GPU ini untuk melatih model asas AI mereka sendiri dari awal.

Saurabh Vij berkata: “Kami telah menjalankan eksperimen penjanaan teks dan imej pada Macbook dan boleh mengeluarkan sekurang-kurangnya 10 imej seminit Kami berharap dapat menyambungkan berjuta-juta Macbook ke rangkaian untuk membolehkan pengguna tidur semasa mereka tidur juga boleh menggunakan Macbook mereka untuk menjalankan Stable Diffusion, Whisper atau model AI lain untuk menjana wang

“Akhirnya, Playstation, Xbox, Macbook semuanya akan menjadi sumber pengkomputeran yang berkuasa, malah kereta Tesla juga menggunakan kuasa GPU dan menghabiskan sebahagian besar masa mereka diletakkan di garaj. ” tambah Saurabh Vij

Atas ialah kandungan terperinci Menggunakan rangkaian teragih untuk menyambungkan GPU terbiar secara bersiri, pemula ini mendakwa dapat mengurangkan kos latihan model AI sebanyak 90%. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!