IEEE Interpretable AI Architecture Standard P2894 Dikeluarkan Secara Rasmi

Explainable AI (XAI) ialah cabang kecerdasan buatan yang sedang berkembang Ia digunakan untuk menganalisis logik di sebalik setiap keputusan yang dibuat oleh keupayaan kecerdasan buatan Ia adalah salah satu kebimbangan utama untuk pembangunan kecerdasan buatan yang mampan. Dengan kemunculan era model besar, model menjadi lebih dan lebih kompleks, dan memberi perhatian kepada kebolehtafsiran adalah sangat penting untuk meningkatkan ketelusan, keselamatan dan kebolehpercayaan sistem kecerdasan buatan.

Boleh ditafsirkan AIInternational Standard IEEE P2894dilepaskan, membuka AI"kotak hitam"P2894"Association"Terkini"

seni bina AI yang boleh ditafsir (Panduan for an Architectural Framework for Explainable Artificial Intelligence) dikeluarkan secara rasmi. IEEE ialah masyarakat profesional dan teknikal bukan untung terbesar di dunia Ia diiktiraf sebagai berwibawa dalam bidang piawaian akademik dan antarabangsa dan telah merumuskan lebih daripada 900 piawaian industri semasa.

Pautan teks asal standard:

//m.sbmmt.com/link/b252e54edce965ac4408effd7ce41fb7

Piawaian seni bina AI yang boleh dijelaskan yang dikeluarkan kali ini menyediakan industri dengan teknologi untuk membina, menerapkan model dan teknologi kepada industri untuk membina , sambil memenuhi keperluan AI yang telus dan boleh dipercayai dengan mengguna pakai pelbagai kaedah AI yang boleh dijelaskan. Piawaian ini mentakrifkan rangka kerja seni bina dan garis panduan aplikasi untuk AI yang boleh dijelaskan, termasuk penerangan dan definisi AI yang boleh dijelaskan, klasifikasi kaedah AI yang boleh dijelaskan dan senario aplikasi yang boleh digunakan untuk setiap jenis, serta ketepatan, privasi dan keselamatan sistem AI yang boleh dijelaskan. kaedah penilaian prestasi.

Seawal Jun 2020, WeChat Bank, Huawei, JD.com, Baidu, Yitu, Hisense, Institut Penyelidikan Data Besar CETC, Institut Teknologi Pengkomputeran, Akademi Sains China, China Telecom, China Mobile, China Unicom, Shanghai Computer Pusat Pembangunan Teknologi Perisian, Lebih daripada 20 syarikat dan institusi, termasuk Kumpulan ENN, Pengurusan Aset China dan Sinovation Ventures, telah bersama-sama menubuhkan Inisiatif Kebolehtafsiran di Persatuan Piawaian IEEE berdasarkan pemahaman mendalam mereka tentang spesifikasi keselamatan teknologi AI dan kebolehjelasan dalam senario perniagaan dalam pelbagai bidang seperti kewangan, runcit dan kumpulan kerja pintar, dan menganjurkan mesyuarat kumpulan kerja standard pertama pada bulan itu. Dr. Fan Lixin, ketua saintis kecerdasan buatan di WeChat Bank, berkhidmat sebagai pengerusi kumpulan kerja standard, dan Dr. Chen Yixin, seorang profesor di Universiti Washington di Amerika Syarikat, berkhidmat sebagai naib pengerusi. Sejak itu, kumpulan kerja piawaian telah mengadakan beberapa mesyuarat, dan piawaian draf akhir akan dikeluarkan secara rasmi oleh Persatuan Piawaian IEEE pada Februari 2024.

Dr. Fan Lixin, Pengerusi Kumpulan Kerja Standard, berkata: "Kebolehjelasan adalah isu penting yang tidak boleh diabaikan dalam peringkat pembangunan semasa teknologi AI, tetapi piawaian industri dan dokumen normatif yang berkaitan masih belum cukup lengkap. penggubalan piawaian ini menyerap orang ramai daripada kewangan, komunikasi Pengalaman praktikal termaju syarikat terkemuka dan institusi penyelidikan dalam pelbagai bidang seperti , peruncitan dan Internet dipercayai memberikan rujukan berharga untuk pelaksanaan AI yang lebih meluas.”

Piawaian berkaitan untuk pembelajaran gabungan yang dipercayai dan AI yang dipercayai akan dikeluarkan satu demi satu , memfokuskan pada keselamatan data AI dan perlindungan privasi

" Data Dr. Fan Lixin memperkenalkan bahawa piawaian seni bina sistem AI yang boleh dijelaskan yang dikeluarkan kali ini juga merupakan pencapaian penting. dalam penyelidikan dan pelaksanaan paradigma baharu "pembelajaran bersekutu yang dipercayai". "Pembelajaran gabungan yang dipercayai" ialah paradigma pembelajaran mesin teragih yang boleh memenuhi keperluan pengguna dan penyeliaan. Dalam paradigma ini, perlindungan privasi, prestasi model dan kecekapan algoritma adalah teras teras segi tiga Bersama-sama dengan dua tonggak kebolehtafsiran membuat keputusan model dan kebolehseliaan model, ia membentuk pembelajaran bersekutu yang lebih selamat dan boleh dipercayai. 》Ini adalah artikel yang memperkenalkan paradigma baharu "Pembelajaran Bersekutu Dipercayai". Dalam paradigma ini, perlindungan privasi, prestasi model dan kecekapan algoritma adalah teras teras segi tiga Bersama-sama dengan dua tonggak kebolehtafsiran membuat keputusan model dan penyeliaan model, ia membentuk pembelajaran bersekutu yang lebih selamat dan boleh dipercayai. Paradigma ini boleh memenuhi keperluan semua aspek dan merupakan kaedah pembelajaran mesin teragih baharu. Artikel ini memperkenalkan kepentingan dan komponen paradigma ini.

Peredaran data yang selamat memainkan peranan penting, dan pembelajaran bersekutu yang dipercayai memainkan peranan penting dalam mempromosikan peredaran elemen data yang selamat. Pelan Tindakan Tiga Tahun "Elemen Data" (2024-2026) yang dikeluarkan oleh Pentadbiran Data Kebangsaan bercadang untuk "mewujudkan persekitaran peredaran yang selamat dan dipercayai, memperdalam aplikasi teknologi seperti pengkomputeran privasi dan pembelajaran bersekutu, dan meningkatkan kredibiliti dan kebolehkawalan penggunaan data." , keupayaan boleh diukur dan menggalakkan peredaran yang cekap dan penggunaan pematuhan data. "Pembelajaran gabungan yang dipercayai, sebagai kaedah peredaran pematuhan data berdasarkan pengkomputeran privasi, pembelajaran bersekutu dan teknologi lain, boleh meningkatkan kredibiliti, kebolehkawalan dan kebolehramalan penggunaan data. Keupayaan pengukuran menggalakkan aplikasi data dalam pematuhan, peredaran dan penggunaan yang cekap, dengan itu memaksimumkan nilai data.

Memandangkan industri dan akademia memberi perhatian kepada pembelajaran bersekutu dan kecerdasan buatan yang boleh dipercayai, pelbagai pembelajaran gabungan yang dipercayai dan piawaian kecerdasan buatan yang boleh dipercayai yang diluluskan oleh Persatuan Piawaian IEEE juga akan dikeluarkan satu demi satu. Antaranya, draf standard IEEE P2986 (Amalan Disyorkan untuk Privasi dan Keselamatan untuk Pembelajaran Mesin Bersekutu) mengenai privasi dan seni bina keselamatan pembelajaran bersekutu telah siap dan dijangka akan dikeluarkan secara rasmi tidak lama lagi. Piawaian ini mencadangkan kaedah penilaian tahap risiko privasi dan tahap risiko keselamatan pembelajaran bersekutu buat kali pertama dalam industri. Secara khususnya, ia termasuk kesalahan biasa dan tindakan balas dalam pembelajaran mesin bersekutu, keperluan privasi dan keselamatan untuk pembelajaran mesin bersekutu, dan garis panduan penilaian privasi dan keselamatan pembelajaran mesin bersekutu.

Selain itu, berdasarkan IEEE P2986, standard pembelajaran bersekutu yang boleh dipercayai IEEE P3187 (Panduan untuk Rangka Kerja untuk Pembelajaran Mesin Bersekutu Dipercayai), yang lebih memfokuskan kepada pembelajaran bersekutu, juga telah menyelesaikan semakan awalnya. Piawaian ini mencadangkan rangka kerja dan ciri pembelajaran bersekutu yang dipercayai, menetapkan kekangan khusus pada pelaksanaan ciri ini, dan memperkenalkan penyelesaian untuk melaksanakan pembelajaran bersekutu yang dipercayai.

Large Model AI Agent+Pembelajaran bersekutu untuk mencipta kecerdasan buatan yang boleh dipercayai dalam era model besar

Baru-baru ini, China Telecom dan WeBank telah menubuhkan agensi maklumat bersama. Kumpulan kerja standard pembelajaran bersekutu IEEE P3427 (Standard for Federated Machine Learning of Semantic Information Agents). Topik yang dibincangkan dalam pelan standard ini termasuk definisi peranan, mekanisme insentif, komunikasi semantik agen semantik yang berbeza dalam rangkaian kognitif semantik berdasarkan pembelajaran mesin bersekutu, perwakilan maklumat semantik mengenai agen semantik yang mudah untuk pemahaman manusia, dan persekutuan antara agen semantik. Keselamatan maklumat, interaksi yang cekap, dsb. Kumpulan kerja piawaian merancang untuk melancarkan pembangunan standard pada penghujung Mac 2024, dan kini sedang merekrut pakar berkaitan daripada pelbagai industri untuk menyertai untuk bersama-sama meningkatkan piawaian dan menggalakkan pembangunan industri.

Pengeluaran berturut-turut piawaian industri yang berkaitan akan terus menggalakkan kerjasama dan inovasi teknikal merentas industri dan merentas bidang, membuka "kotak hitam" AI, dan menggalakkan peredaran elemen data yang selamat dan cekap dengan ketepatan yang tinggi dan kebolehtafsiran yang tinggi akan mempunyai Membantu merealisasikan aplikasi teknologi yang meluas, bertanggungjawab dan berkesan untuk membawa manfaat kepada manusia.

Atas ialah kandungan terperinci IEEE Interpretable AI Architecture Standard P2894 Dikeluarkan Secara Rasmi. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!