Microsoft didedahkan telah membubarkan keseluruhan pasukan penilaian risiko AInya

Berita pada 14 Mac, waktu tempatan di Amerika Syarikat pada hari Isnin, Microsoft telah didedahkan telah membubarkan keseluruhan pasukan penilaian risiko AInya. Dilaporkan bahawa pasukan ini secara rasmi dipanggil Pasukan Etika dan Sosial AI, dan fungsi utamanya adalah untuk membimbing inovasi Microsoft dalam AI untuk menghasilkan keputusan yang beretika, bertanggungjawab dan mampan. Baru-baru ini, pasukan itu telah bekerja keras untuk menilai kemungkinan risiko Microsoft menyepadukan teknologi OpenAI ke dalam produknya.

Ramai bekas pekerja Microsoft dan semasa berkata hasil daripada langkah ini, Microsoft tidak akan lagi mempunyai pasukan khusus untuk memastikan prinsip AInya disepadukan rapat dengan reka bentuk produk Pada masa ini, syarikat itu menerajui trend dan bekerja keras untuk menjadikan alatan AI sebagai arus perdana. Walau bagaimanapun, Microsoft masih mengekalkan pasukan yang dipanggil Office of Responsible AI (ORA), yang ditugaskan untuk menetapkan peraturan untuk mengawal inisiatif AI syarikat. Microsoft berkata walaupun pemberhentian baru-baru ini, pelaburan keseluruhannya dalam kerja yang bertanggungjawab telah meningkat.

Microsoft berkata dalam satu kenyataan: “Microsoft komited untuk membangunkan produk dan pengalaman AI dengan selamat dan bertanggungjawab, dan mencapai matlamat itu dengan melabur dalam orang, proses dan rakan kongsi yang mengutamakan faktor ini sepanjang enam tahun lalu. kami telah menambah bilangan orang dalam pasukan produk kami dan ORA yang, bersama-sama semua orang di Microsoft, bertanggungjawab untuk memastikan kami mengamalkan prinsip AI kami. Kami berterima kasih kepada pasukan Etika dan Masyarakat atas kerja perintis mereka journey to responsible AI.”

Kakitangan Microsoft mendedahkan bahawa Pasukan Etika dan Sosial memainkan peranan penting dalam memastikan produk dan perkhidmatan syarikat mematuhi prinsip AI yang bertanggungjawab. Seorang bekas pekerja berkata: "Orang ramai melihat prinsip yang dicadangkan oleh ORA tetapi tidak tahu cara menerapkannya, dan tugas kami adalah untuk menunjukkannya dan membuat peraturan di kawasan yang tiada peraturan

Baru-baru ini tahun, pasukan itu mempunyai Permainan main peranan yang dipanggil "Panggilan Penghakiman" telah direka untuk membantu pereka membayangkan kemungkinan bahaya yang mungkin dibawa oleh AI dan membincangkannya semasa proses pembangunan produk. Pasukan Etika dan Masyarakat mencapai saiz terbesarnya pada tahun 2020, apabila ia mempunyai kira-kira 30 pekerja, termasuk jurutera, pereka bentuk dan ahli falsafah. Tetapi semasa penyusunan semula tahun lepas, pasukan itu telah dikurangkan kepada hanya tujuh orang.

Dalam mesyuarat pasukan selepas penyusunan semula, John Montgomery, naib presiden perniagaan AI Microsoft, berkata bahawa pengurusan syarikat telah mengarahkan mereka untuk bertindak segera. Dilaporkan bahawa Montgomery berkata pada masa itu: "Terdapat banyak tekanan daripada CTO Kevin Scott dan Ketua Pegawai Eksekutif Satya Nadella untuk mempercepatkan penyepaduan model OpenAI dan Model seterusnya dihantar kepada pelanggan. Montgomery berkata ramai orang mengenai etika dan sosial pasukan akan dipindahkan ke bahagian lain syarikat akibat tekanan. Pada masa itu, Montgomery berkata pasukan itu tidak akan disingkirkan dan perlu menumpukan "lebih banyak pada perkhidmatan dan perisian pembinaan pasukan produk individu." Selepas itu, kebanyakan ahli pasukan telah dipindahkan ke jabatan lain, dan kakitangan yang selebihnya kekurangan kakitangan, menjadikannya mustahil untuk melaksanakan banyak rancangan bercita-cita tinggi.

Selepas kira-kira lima bulan, pekerja yang tinggal dimaklumkan bahawa keseluruhan pasukan akhirnya dibubarkan. Seorang pekerja berkata bahawa langkah ini meninggalkan lubang besar dalam pengalaman pengguna dan reka bentuk keseluruhan produk AI. "Bahagian yang paling teruk ialah dengan melakukan ini, kami meletakkan perniagaan pada risiko dan orang ramai berisiko," jelas mereka

Ahli pasukan etika dan masyarakat berkata mereka biasanya bekerja untuk menyokong pembangunan produk. Tetapi apabila Microsoft mula menumpukan pada melancarkan alat AI lebih cepat daripada pesaingnya, pengurusan syarikat menjadi kurang berminat dengan jenis pemikiran jangka panjang yang ditumpukan oleh pasukan itu.

Walaupun pasukan Etika dan Masyarakat sedang dibubarkan, yang lain mengalihkan perhatian mereka untuk meramalkan kesan Microsoft mengeluarkan alatan AI dikuasakan OpenAI kepada khalayak global. Dalam memo tahun lepas, pasukan Etika & Masyarakat memperincikan risiko yang berkaitan dengan Pencipta Imej Bing, alat yang menggunakan sistem Dall-E OpenAI untuk mencipta imej berdasarkan gesaan teks. Alat pengimejan yang dilancarkan di beberapa negara pada bulan Oktober, menjadikannya salah satu kerjasama awam pertama Microsoft dengan OpenAI.

Walaupun teknologi teks-ke-imej telah terbukti sangat popular, penyelidik Microsoft dengan tepat meramalkan bahawa ia juga boleh mengancam mata pencarian artis dengan membenarkan sesiapa sahaja menyalin gaya kreatif artis dengan mudah. Selain itu, OpenAI mengemas kini syarat perkhidmatannya untuk memberikan pengguna "pemilikan penuh imej yang dibuat dengan Dall-E," yang membimbangkan pasukan etika dan masyarakat Microsoft. (Sedikit)

Atas ialah kandungan terperinci Microsoft didedahkan telah membubarkan keseluruhan pasukan penilaian risiko AInya. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!