Kesan Kecerdasan Buatan ada di mana-mana: dari pusat data ke tepi

Kecerdasan buatan generatif telah menjadi daya penggerak penting untuk transformasi kecerdasan buatan dan telah memberi impak yang luas dan meluas dalam kehidupan seharian kita. Pada tahun lalu, teknologi kecerdasan buatan telah secara beransur-ansur menembusi kehidupan pengguna. Berita dan pengumuman produk daripada MWC 2024 menyerlahkan potensi aplikasi AI generasi akan datang. Teknologi ini akan berada di mana-mana, disepadukan terus ke dalam peranti tepi dan titik akhir, memacu kreativiti dan komunikasi ke tahap yang tidak pernah berlaku sebelum ini.

"Kepintaran buatan tepi" merujuk kepada penggunaan algoritma kecerdasan buatan ke dalam infrastruktur tepi rangkaian dan terus ke terminal, seperti telefon pintar, kamera, penderia dan peranti IoT, dengan itu mencapai tanpa bergantung pada pelayan awan Pemprosesan masa nyata dan membuat keputusan . Penyahpusatan pemprosesan AI ini menawarkan beberapa kelebihan, termasuk kependaman yang dikurangkan, privasi yang dipertingkatkan dan kebolehpercayaan yang lebih baik apabila sambungan internet adalah terhad.

Sebagai contoh, katakan jam tangan pintar anda mempunyai keupayaan kelebihan AI. Ini bermakna jam tangan boleh melakukan beberapa tugas secara tempatan tanpa perlu bergantung pada perkhidmatan awan. Contohnya, jam tangan boleh memanfaatkan model kecerdasan buatan terbina dalam untuk melaksanakan tugas seperti pengecaman pertuturan, terjemahan dan pemantauan kesihatan untuk menyediakan masa tindak balas yang pantas. Pendekatan untuk pengkomputeran tepi ini bukan sahaja mempercepatkan pemprosesan, ia juga membantu melindungi privasi peribadi kerana ia mengurangkan keperluan untuk pelayan luaran untuk menghantar data.

Kunci kepada kelebihan kecerdasan buatan terletak pada keupayaan penaakulan yang cekap, iaitu, menggunakan model kecerdasan buatan terlatih untuk membuat ramalan atau keputusan. Untuk meningkatkan prestasi, teknologi memori khusus perlu digunakan dan disesuaikan dengan keperluan khusus peranti akhir. Memandangkan model yang lebih besar memberikan ketepatan yang lebih besar dan ketepatan hasil, keperluan untuk kapasiti memori dan lebar jalur yang lebih besar akan terus berkembang dalam kekangan kuasa peranti dan ruang.

Pereka bentuk mempunyai pelbagai pilihan apabila memilih memori untuk inferens AI/ML, tetapi apabila ia berkaitan dengan lebar jalur parameter utama, memori GDDR berfungsi dengan baik. Untuk telefon mudah alih dan banyak peranti IoT, penggunaan kuasa dan kekangan ruang adalah kritikal, menjadikan LPDDR sebagai memori pilihan. Apabila memilih memori untuk inferens AI tepi, anda perlu mencapai keseimbangan yang betul antara lebar jalur, kapasiti, penggunaan kuasa dan faktor bentuk padat.

Mengamankan peranti tepi dan titik akhir adalah penting. Peranti ini memainkan peranan penting dalam mengumpul dan memproses data sensitif, daripada maklumat peribadi kepada cerapan perniagaan proprietari, menjadikannya sasaran bernilai tinggi untuk serangan siber. Untuk melindungi peranti AI daripada pelbagai potensi ancaman, seperti perisian hasad, pelanggaran data dan akses tanpa kebenaran, adalah penting untuk melaksanakan langkah keselamatan yang kukuh. Ini memerlukan penggunaan protokol penyulitan, mekanisme but selamat dan ciri keselamatan berasaskan perkakasan untuk memastikan perlindungan semasa penghantaran data dan storan semasa rehat.

Peningkatan kecerdasan buatan edge membawa peluang baharu untuk kreativiti, inovasi dan pengalaman yang diperibadikan. Walau bagaimanapun, untuk merealisasikan potensi penuh AI, teknologi memori untuk inferens dan mengamankan peranti kelebihan mesti terus berkembang.

Pengawal antara muka memori Rambus menyediakan prestasi memori lebar jalur tinggi, kependaman rendah untuk GDDR dan LPDDR untuk memenuhi keperluan penaakulan kecerdasan buatan semasa dan masa hadapan. Di samping itu, Rambus mempunyai portfolio IP keselamatan yang luas yang membolehkan keselamatan termaju di peringkat perkakasan untuk melindungi aplikasi AI pada peranti pinggir dan titik akhir.