Bagaimanakah anda tahu sama ada 'orang' yang berkongsi foto, bercerita atau terlibat dalam aktiviti lain dalam talian sebenarnya adalah benar dan bukan bot AI?

Itu soalan yang difikirkan oleh penyelidik apabila AI semakin baik dalam meniru tingkah laku manusia dalam dunia dalam talian di mana orang sering terlibat secara tanpa nama.

Penyelidik mencadangkan "kelayakan keperibadian" untuk membantu penyedia perkhidmatan dalam talian membezakan antara orang sebenar dan bot AI, dalam usaha untuk menentang pelakon jahat dan memelihara privasi.

Cadangan itu, yang digariskan dalam kertas baharu daripada 32 penyelidik di OpenAI, Harvard, Microsoft, Universiti Oxford, MIT, UC Berkeley dan organisasi lain, datang apabila AI menjadi lebih baik dan lebih baik dalam meniru tingkah laku manusia dalam dunia dalam talian di mana orang sering terlibat secara tanpa nama.

Penyelesaian mereka: minta manusia mendaftar untuk "kelayakan personaliti," ID digital atau token yang membolehkan perkhidmatan dalam talian mengetahui anda sebenar dan bukan AI. Mereka mengatakan kelayakan boleh dikeluarkan oleh pelbagai "institusi yang dipercayai", termasuk kerajaan dan penyedia perkhidmatan (seperti Google dan Apple, yang sudah meminta anda log masuk dengan ID).

Untuk menjadikan sistem sedemikian berfungsi, kami memerlukan penggunaan meluas di seluruh dunia. Oleh itu, para penyelidik menggalakkan kerajaan, ahli teknologi, syarikat dan badan piawai untuk bersatu untuk mencipta piawaian.

Namun, bukan semua orang peminat. Sesetengah penyelidik mengatakan pendekatan yang lebih baik ialah meminta syarikat yang mencipta sistem ini menyelesaikan masalah yang diperkenalkan oleh AI, dan bukannya menjadikan orang biasa bertanggungjawab untuk mengesan dan melaporkan bot AI.

Berikut ialah perbuatan lain dalam AI yang patut diberi perhatian anda.

California mengorak langkah ke hadapan dengan peraturan AI yang penting

Satu rang undang-undang terobosan California yang memerlukan syarikat AI untuk menguji dan memantau sistem yang menelan belanja lebih daripada $100 juta untuk dibangunkan telah bergerak selangkah lebih dekat untuk menjadi kenyataan.

Perhimpunan California meluluskan undang-undang yang dicadangkan pada 28 Ogos, berikutan kelulusannya oleh Senat negeri pada bulan Mei. Rang undang-undang itu, kini ditujukan kepada Gavin Newsom, akan menjadi undang-undang pertama di AS yang mengenakan langkah keselamatan pada sistem AI yang besar.

Digelar Inovasi Selamat dan Selamat untuk Akta Model Kecerdasan Buatan Sempadan, Rang Undang-undang Senat 1047 telah dicadangkan oleh Senator negeri Scott Wiener, seorang Demokrat yang mewakili San Francisco. Ia ditentang oleh syarikat teknologi, termasuk OpenAI, Google dan Meta, serta sekurang-kurangnya lapan ahli politik negeri yang berpendapat ia boleh menyekat inovasi.

California adalah rumah kepada 35 daripada 50 syarikat AI terbaik dunia, kata The Guardian, termasuk Anthropic, Apple, Google, Meta dan OpenAI.

Anda boleh membaca teks SB 1047 di sini, bantahan OpenAI terhadapnya di sini, dan respons Wiener terhadap kemajuan perundangannya di sini.

Dalam beberapa bulan kebelakangan ini, penyelidik dan juga pekerja syarikat AI telah menyatakan kebimbangan bahawa pembangunan sistem AI yang berkuasa berlaku tanpa perlindungan yang betul untuk privasi dan keselamatan. Dalam surat terbuka 4 Jun, pekerja dan tokoh industri termasuk pencipta AI Yoshua Bengio, Geoffrey Hinton dan Stuart Russell menyeru keperluan untuk perlindungan pemberi maklumat untuk orang yang melaporkan masalah di syarikat AI mereka.

Sementara itu, OpenAI, yang membuat ChatGPT, dan Anthropic, pencipta Claude, minggu lalu menjadi yang pertama menandatangani perjanjian dengan kerajaan AS yang membenarkan Institut Keselamatan Perisikan AS menguji dan menilai model AI mereka dan bekerjasama dalam penyelidikan keselamatan, institut itu berkata. Organisasi itu diwujudkan pada bulan Oktober sebagai sebahagian daripada perintah eksekutif AI Presiden Joe Biden.

Kerajaan akan "menerima akses kepada model baharu utama daripada setiap syarikat sebelum dan selepas keluaran awam mereka," kata institut itu, yang merupakan sebahagian daripada Jabatan Perdagangan di Institut Piawaian dan Teknologi Kebangsaan, atau NIST.

Masanya, sudah tentu, datang apabila Newsom California memutuskan sama ada untuk mempertimbangkan rang undang-undang yang dicadangkan tentang AI atau menyerahkannya kepada kerajaan persekutuan untuk menangani isu tersebut.

Sam Altman dari OpenAI berkongsi pandangannya dalam catatan blog di X selepas perjanjian dengan kerajaan diumumkan.

"Kami gembira dapat mencapai persetujuan dengan Institut Keselamatan AI AS untuk ujian pra-keluaran model masa depan kami," tulis Altman. “Atas banyak sebab, kami fikir adalah penting perkara ini berlaku di peringkat kebangsaan. AS perlu terus memimpin!”

Penjana teks-ke-imej Gemini Google sedia untuk mencuba lagi

Selepas membawa penjana teks-ke-imejnya kembali ke papan lukisan kerana alat itu menghasilkan imej orang yang memalukan dan menyinggung perasaan, Google minggu lepas berkata ia bersedia untuk mengeluarkan versi alat yang dikemas kini sebagai sebahagian daripada chatbot Gemininya.

Keupayaan penjana imej untuk menggambarkan orang telah ditarik pada bulan Februari selepas pengguna menghadapi tingkah laku yang membawa kepada imej pelik, berat sebelah dan perkauman, termasuk menunjukkan orang kulit hitam dan Asia sebagai askar Jerman era Nazi (seperti yang dinyatakan oleh Yahoo News) dan "menolak untuk menggambarkan orang kulit putih, atau memasukkan foto wanita atau orang kulit berwarna apabila digesa untuk mencipta imej Viking, Nazi dan Pope” (seperti yang dilaporkan Semafor).

Tindakan balas, yang dilihat sebagai tanda bahawa syarikat sedang menyegerakan produk AI untuk memasarkan tanpa ujian yang mencukupi, mendorong Ketua Pegawai Eksekutif Google Sundar Pichai untuk mengeluarkan permohonan maaf. “Saya tahu bahawa beberapa jawapannya mempunyai

Atas ialah kandungan terperinci Bagaimanakah anda tahu sama ada 'orang' yang berkongsi foto, bercerita atau terlibat dalam aktiviti lain dalam talian sebenarnya adalah benar dan bukan bot AI?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!