Chen Xiaojian: Lima faktor utama untuk membina kesejagatan AI generatif Amazon Cloud Technology

En. Chen Xiaojian, Pengurus Besar Amazon Cloud Technology Jabatan Produk Greater China

Dalam "Pertempuran 100 Model" semasa, kecerdasan buatan generatif, yang diwakili oleh model besar, menjadi peneraju dalam pembangunan kecerdasan buatan pada kelajuan yang tidak pernah berlaku sebelum ini. Walau bagaimanapun, AI generatif bukan sahaja bermaksud model besar. Pada penghujung Oktober, Amazon Cloud Technology mengadakan Persidangan Generative Artificial Intelligence Builders Chen Xiaojian, Pengurus Besar Jabatan Produk Greater China Cloud Technology, bercakap mengenai tema "Memperkasakan era baharu kecerdasan buatan generatif dan membantu data dan buatan. kecerdasan memberi manfaat kepada semua orang." dalam ucapannya disebutkan bahawa keseluruhan aplikasi kecerdasan buatan generatif adalah seperti gunung ais yang terapung di laut. Hanya sudut yang terdedah kepada laut boleh dilihat oleh kebanyakan orang. Sudut ini adalah model asas, dan cip pecutan dan pangkalan data juga diperlukan di bahagian bawah gunung es, analisis data dan perkhidmatan keselamatan data dan perkhidmatan sokongan lain di luar model asas. Jadi, apakah jenis penambahbaikan operasi dan perkhidmatan yang boleh dibawa oleh kecerdasan buatan generatif kepada syarikat yang inovatif? Apakah sumbangan yang boleh diberikan oleh Teknologi Awan Amazon dalam bidang kecerdasan buatan generatif? Kami sudah mempunyai jawapannya pada persidangan pembina kecerdasan buatan generatif ini yang menyatukan huluan dan hiliran industri

Persidangan ini mempunyai tiga sub-tempat utama, masing-masing membincangkan topik hangat dalam bidang AI generatif seperti pangkalan aplikasi, strategi data dan asli AI. Pada masa yang sama, untuk membantu lebih ramai pembangun mengalami daya tarikan pembangunan dalam era AI generatif, persidangan itu turut menubuhkan forum pembangun dan kem latihan kuasa. Aktiviti ini direka bentuk untuk menyediakan panduan dan sokongan praktikal kepada pembangun, serta boleh membantu pembangun lebih memahami dan menggunakan teknologi AI generatif. Selain itu, wakil pelanggan inovasi AI generatif Amazon Cloud Technology, seperti Siemens Group, Kingsoft Office Software dan Covestro China, turut berkongsi kes inovasi mereka pada persidangan ini, memberikan pengalaman dan inspirasi berharga kepada peserta.

Sebagai penganjur persidangan itu, Teknologi Awan Amazon kini menumpukan pada lima bidang utama: senario aplikasi, alatan dan infrastruktur, asas data, pembinaan aplikasi asli AI dan perkhidmatan AI generatif untuk membantu perusahaan dan pembangun meneroka potensi AI generatif sepenuhnya. Ketua Pegawai Eksekutif Amazon Andy Jassy pernah berkata: "Matlamat kami adalah untuk membolehkan sesiapa sahaja memperoleh infrastruktur dan kos canggih yang sama seperti perusahaan besar untuk merealisasikan inovasi mereka sendiri Pada masa ini, Teknologi Awan Amazon menyediakan AI yang lengkap dari hujung ke hujung." tindanan teknologi termasuk lapisan pecutan bawah seperti cip pecutan dan pengoptimuman storan, alat dan perkhidmatan pembinaan model lapisan tengah, dan lapisan atas aplikasi berkaitan AI generatif. Inovasi berterusan di setiap peringkat untuk memenuhi keperluan pelanggan yang berbeza. Teknologi Awan Amazon berharap untuk mempopularkan teknologi AI generatif melalui produk dan perkhidmatan yang berkaitan, dan menyediakan sokongan untuk lebih banyak perusahaan dan pembangun individu untuk mempercepatkan inovasi

Mengenai isu cara merealisasikan penyejagatan AI generatif, Chen Xiaojian menghuraikan secara terperinci tentang lima faktor utama yang difokuskan oleh Teknologi Awan Amazon.

Pertama, pilih senario aplikasi yang sesuai dan mulakan dengan senario biasa untuk menginovasi model perniagaan. Chen Xiaojian percaya bahawa meningkatkan pengalaman pelanggan, meningkatkan produktiviti dan kreativiti pekerja serta mengoptimumkan proses perniagaan adalah tiga aspek utama nilai perniagaan yang dibawa oleh senario aplikasi kepada perusahaan. Semasa ucapannya, beliau memetik Laporan Teknologi Frontier Produktiviti AI Generatif yang dikeluarkan oleh McKinsey Consulting pada Jun 2023. Laporan itu menunjukkan bahawa kira-kira 3/4 daripada faedah ekonomi yang dibawa oleh teknologi AI generatif datang daripada pemasaran dan jualan, produk dan R&D. empat fungsi utama: , kejuruteraan perisian dan operasi pelanggan, yang merupakan kuasa utama arah aplikasi AI generatif. Untuk tujuan ini, Salesforce telah menyepadukan Amazon Bedrock dan Amazon Titan ke dalam produk AI generatifnya, membolehkan pelanggan menggunakan data mereka dengan mudah dan selamat pada Salesforce Data Cloud untuk membina aplikasi AI generatif.

Sebagai kajian kes, Pusat Reka Bentuk Inovasi Haier menggunakan AI generatif untuk meningkatkan kecekapan dalam empat aspek: lukisan grafik, lukisan yang dijana graf, lukisan kuantitatif dan lukisan pemandangan penuh Selepas pergi ke dalam talian, aplikasi sistem reka bentuk automatik memendekkan operasi kitaran perniagaan berkaitan sebanyak 20 %. Pada masa yang sama, Mutong Technology, sebuah syarikat terkemuka dalam bidang permainan domestik, juga menggunakan Amazon Bedrock untuk mengoptimumkan proses perniagaan yang berkaitan dengan pembangunan permainan.

Ditulis semula seperti berikut: Kedua, dengan memanfaatkan alatan dan infrastruktur AI generatif yang dibina khas, aplikasi AI generatif yang kos efektif boleh dibina dengan cepat. Di kawasan ini, perkhidmatan Amazon Bedrock yang disediakan oleh Amazon Cloud Technology digabungkan dengan Amazon SageMaker Jumpstart untuk membantu pelanggan yang mempunyai keperluan berbeza untuk model asas dengan mudah dan selamat memilih model asas yang sesuai dengan mereka. Pada masa ini, Amazon Bedrock menyediakan pelbagai model asas untuk dipilih, termasuk penyedia pihak ketiga terkemuka seperti Meta, Anthropic, Cohere, AI21 Labs dan Stability AI, serta keluarga model Amazon Titan yang dibangunkan oleh Amazon Cloud Technology. Menggunakan Amazon Bedrock Agent, ejen terurus yang tidak memerlukan pengekodan, anda boleh memecahkan dan mengatur tugas secara automatik, menyambung kepada sumber data yang berkaitan melalui API dan menyambung ke Amazon Lambda di bahagian belakang untuk melaksanakan tugas. Selain itu, Amazon SageMaker JumpStart boleh mengakses lebih banyak model sumber terbuka daripada industri dan akademia, serta menyediakan persekitaran dan keupayaan penilaian yang sangat disesuaikan

Teknologi Awan Amazon menyediakan pelbagai penyelesaian latihan berprestasi tinggi, kos rendah yang sangat fleksibel dan menjimatkan kos. Contohnya, contoh Amazon EC2 P5 Amazon Cloud Technology dilengkapi dengan cip GPU Intex terbaharu H100 Tensor Core, iaitu 6 kali lebih pantas daripada generasi sebelumnya dan mengurangkan kos latihan sebanyak 40%. Selain itu, contoh Amazon EC2 Inf2 Amazon Cloud Technology menggunakan cip inferens pembelajaran mesin yang dibangunkan sendiri oleh Amazon Cloud Technology, Amazon Inferentia2, yang 40% lebih menjimatkan kos berbanding contoh EC2 serupa yang lain. Begitu juga, contoh Amazon EC2 Trn1 bagi Teknologi Awan Amazon menggunakan Amazon Trainium, cip latihan pembelajaran mesin yang dibangunkan sendiri oleh Teknologi Awan Amazon Berbanding dengan kejadian serupa, kos latihan dijimatkan sebanyak 50%

Kandungan yang ditulis semula adalah seperti berikut: Pertama, letakkan asas yang kukuh untuk data dan gunakan data yang diswastakan untuk mewujudkan kelebihan daya saing yang berbeza. Teknologi Awan Amazon menyediakan perkhidmatan data yang komprehensif, daripada penyimpanan, pertanyaan dan analisis data kepada penggunaan kecerdasan perniagaan, pembelajaran mesin dan kecerdasan buatan generatif, serta penyepaduan dan pengurusan data yang mudah, dan dasar keselamatan yang berkesan untuk mengurus aplikasi dan pembukaan data. Contohnya, untuk senario aplikasi seperti maklumat peribadi pengguna, pengurusan maklumat sesi dan pangkalan pengetahuan domain peribadi dalam bidang kecerdasan buatan generatif, Teknologi Awan Amazon telah menambah fungsi pangkalan data vektor kepada Perkhidmatan OpenSearch Amazon, Amazon Aurora PostgreSQL dan Amazon RDS untuk PostgreSQL. Dari segi penyepaduan data, Teknologi Awan Amazon telah mencadangkan konsep "ETL sifar" dan melancarkan Aurora Zero ETL untuk Integrasi Redshift, yang membolehkan data perniagaan yang dijana masa nyata disegerakkan daripada Amazon Aurora ke gudang data Amazon Redshift tanpa memerlukan untuk alatan ETL mencapai analisis pengagregatan data besar hampir masa nyata. Dari segi tadbir urus data, Teknologi Awan Amazon menyediakan perkhidmatan tadbir urus data baharu, Amazon DataZone, untuk mengurangkan beban kerja berat ahli dalaman apabila mengakses data dan menggunakan alat analisis

Pada pertemuan itu, pasukan Siemens Dayu berkongsi robot sembang pintar "Xiaoyu" yang mereka bina dengan sokongan teknologi awan Amazon Robot itu berinteraksi melalui penjanaan kecerdasan buatan. Bahagian yang paling menarik ialah penggunaan reka bentuk "seni bina RAG + pangkalan data vektor": pangkalan pengetahuan teras dibina dalam bentuk vektor dan boleh menyimpan data vektor berskala besar. Di samping itu, seni bina RAG sangat meluaskan kebolehgunaan model besar, membolehkan bahagian baharu diproses menggunakan model yang sama tanpa pelarasan. Selain itu, kerana Teknologi Awan Amazon menyediakan satu siri teknologi teras, termasuk pangkalan data vektor dan kecerdasan buatan generatif, kadar penyelesaian panduan bagi keseluruhan penyelesaian adalah setinggi 80%

Melalui perkhidmatan asli awan, pembinaan aplikasi AI boleh dipercepatkan, sekali gus menggalakkan inovasi perniagaan yang tangkas. Chen Xiaojian percaya bahawa dalam era kecerdasan buatan generatif hari ini, lebih ramai pelanggan memerlukan seni bina asli, dan mencadangkan lima butiran untuk tujuan ini. Yang pertama ialah rangka kerja reka bentuk dengan perkhidmatan mikro dan seni bina dipacu peristiwa sebagai teras, yang mengendalikan kebergantungan antara setiap modul berfungsi secara longgar. Kedua, beri keutamaan kepada penggunaan seni bina Tanpa Pelayan untuk mengurangkan beban operasi, penyelenggaraan dan penggunaan infrastruktur, supaya anda boleh lebih fokus pada logik dan inovasi perniagaan. Ketiga, mengutamakan membuat keputusan data, menganggap keupayaan data sebagai kelebihan daya saing teras aplikasi, dan memasukkannya ke dalam konsep reka bentuk aplikasi kecerdasan buatan generatif. Keempat, fokus pada langkah keselamatan dan pakai kaedah kawalan impak untuk mengurangkan skop potensi risiko, sambil meletakkan pematuhan keselamatan dan perlindungan data pada kedudukan penting. Akhir sekali, untuk mengelakkan mencipta semula roda, selain memfokuskan pada teknologi itu sendiri, kita mesti terus melabur dalam konsep tadbir urus aplikasi moden seperti DevOps, infrastruktur sebagai perkhidmatan, dan automasi, menggalakkan perkongsian aset dan amalan aplikasi dalam perusahaan. , dan membina budaya pembina yang cekap dan tangkas

Akhir sekali, hapuskan kerja berulang dan fokus pada inovasi dengan menggunakan perkhidmatan AI generatif yang luar biasa. Untuk tujuan ini, Teknologi Awan Amazon menyediakan Amazon CodeWhisperer, rakan kongsi pengaturcaraan kecerdasan buatan, yang boleh memberikan cadangan kod pengaturcaraan dalam masa nyata, secara asasnya meningkatkan produktiviti pembangun. Berbanding dengan pembangun yang tidak menggunakan alat tersebut, pembangun yang menggunakan CodeWhisperer menyelesaikan tugasan 57% lebih cepat dan mempunyai kadar kejayaan 27% lebih tinggi. Selain itu, Amazon Whisperer telah melancarkan ciri tersuai yang boleh menjana cadangan kod yang lebih baik. Ia membolehkan pelanggan menyesuaikan pengesyoran kod CodeWhisperer dengan selamat menggunakan perpustakaan kod peribadi yang boleh merangkumi API dalaman, pangkalan data, amalan terbaik, corak seni bina dan banyak lagi. Pada masa yang sama, Teknologi Awan Amazon juga menggabungkan fungsi Amazon Quicksight Q dengan fungsi model bahasa besar yang disediakan oleh Amazon Bedrock untuk menyediakan fungsi BI generatif untuk Amazon QuickSight

Pada masa ini, Teknologi Awan Amazon telah membantu lebih daripada seribu perusahaan kecil dan sederhana serta syarikat permulaan merealisasikan inovasi AI generatif dengan cepat melalui perkhidmatan dan alatan AI generatif yang luar biasa, dan telah memperkasakan lebih daripada 100,000 pembangun China.

“Membangunkan aplikasi AI generatif ialah projek sistematik yang penuh dengan cabaran, dan ia bukan sekadar penyatuan produk dan perkhidmatan akhirnya menambah, “Selain sumber Amazon sendiri, kami juga perlu mewujudkan rakan kongsi yang kukuh ekosistem untuk bekerjasama dengan mereka Bersama-sama kami menyelesaikan pelbagai masalah teknikal dalam pembinaan aplikasi AI generatif dan mempercepatkan pengkomersilan aplikasi Selain menyediakan perkhidmatan awan, kami juga mempunyai arkitek penyelesaian, pakar teknikal produk, makmal kecerdasan buatan, makmal data. dan pasukan prototaip pantas

Atas ialah kandungan terperinci Chen Xiaojian: Lima faktor utama untuk membina kesejagatan AI generatif Amazon Cloud Technology. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!