Kumpulan dasar AI A.S. menyaman OpenAI, mengatakan model GPT-4nya mengancam keselamatan awam

Pada 31 Mac, sebuah organisasi dasar AI AS menuduh OpenAI melanggar peraturan perlindungan pengguna oleh model GPT-4 dan meminta Suruhanjaya Perdagangan Persekutuan AS segera Mencegah OpenAI daripada melancarkan model GPT baharu dan menjalankan penilaian bebas.

Organisasi yang dipanggil Pusat AI dan Dasar Digital (CAIDP) memfailkan aduan hari ini, dengan alasan bahawa alat penjanaan teks AI yang dilancarkan oleh OpenAI adalah "berat sebelah, menipu dan berisiko terhadap keselamatan awam," Pelanggaran peraturan perlindungan pengguna.

IT House menyedari bahawa surat terbuka berprofil tinggi sebelum ini meminta moratorium terhadap eksperimen AI generatif berskala besar. Pengerusi CAIDP Mark Rotenberg juga merupakan salah seorang penandatangan surat itu, bersama beberapa penyelidik AI dan pengasas bersama OpenAI Elon Musk. Seperti surat itu, aduan itu menyeru untuk memperlahankan pembangunan model AI generatif dan mengenakan peraturan kerajaan yang lebih ketat.

CAIDP menunjukkan kemungkinan ancaman yang ditimbulkan oleh model teks generatif GPT-4 OpenAI yang diumumkan pada pertengahan bulan Mac. Ancaman ini termasuk potensi GPT-4 menjana kod berniat jahat, serta kemungkinan mengekalkan stereotaip atau membezakan secara tidak adil antara kaum dan jantina dalam perkara seperti pengambilan pekerja disebabkan oleh data latihan yang berat sebelah. Aduan itu juga merujuk kepada isu privasi yang serius dengan antara muka produk OpenAI — seperti kerentanan yang ditemui baru-baru ini yang membenarkan sejarah sembang OpenAI ChatGPT dan kemungkinan maklumat pembayaran dilihat oleh pengguna lain.

OpenAI sebelum ini telah mengakui secara terbuka kemungkinan ancaman yang ditimbulkan oleh penjanaan teks AI, tetapi CAIDP percaya bahawa GPT-4 melebihi had yang menyebabkan kemudaratan kepada pengguna dan harus mencetuskan tindakan pengawalseliaan. CAIDP berusaha untuk meminta OpenAI bertanggungjawab kerana melanggar Seksyen 5 Akta Suruhanjaya Perdagangan Persekutuan, yang melarang amalan perdagangan yang tidak adil dan menipu. Aduan itu mendakwa bahawa "OpenAI menjadikan GPT-4 tersedia kepada orang ramai untuk tujuan komersial dengan pengetahuan penuh tentang risiko ini juga memanggil model generatif yang dengan yakin mereka-reka fakta yang tidak wujud sebagai satu bentuk penipuan."

Dalam aduan itu, CAIDP meminta FTC untuk menghentikan sebarang penggunaan komersial model GPT selanjutnya dan memerlukan penilaian bebas sebelum sebarang pelancaran model pada masa hadapan. Ia juga memerlukan penciptaan alat pelaporan yang boleh diakses secara umum yang serupa dengan alat yang membolehkan pengguna menyerahkan aduan penipuan. dan mendapatkan kejelasan daripada FTC tentang peraturan untuk sistem AI generatif, berdasarkan penyelidikan dan penilaian alat AI yang berterusan tetapi masih secara relatif tidak formal.

Suruhanjaya Perdagangan Persekutuan A.S. sebelum ini telah menyatakan minat untuk mengawal selia alat AI, memberi amaran bahawa sistem AI yang berat sebelah boleh mencetuskan tindakan penguatkuasaan, dan pada acara minggu ini yang dianjurkan bersama dengan Jabatan Kehakiman, Pengerusi FTC Lena Khan berkata agensi akan mencari tanda-tanda bahawa syarikat teknologi sedia ada yang besar sedang cuba untuk memerah persaingan.

Atas ialah kandungan terperinci Kumpulan dasar AI A.S. menyaman OpenAI, mengatakan model GPT-4nya mengancam keselamatan awam. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!