Alat pengesan imej OpenAI terdedah, CTO: 99% imej yang dijana oleh AI boleh dikenali

OpenAI akan melancarkan pengecaman imej AI.

Berita terkini ialah syarikat mereka sedang membangunkan alat pengesanan.

Menurut Ketua Pegawai Teknologi Mira Murat:

Alat ini mempunyai ketepatan yang sangat tinggi, dengan kadar ketepatan sehingga 99%.

Ia sedang dalam proses ujian dalaman dan akan dikeluarkan kepada umum tidak lama lagi.

Saya harus mengatakan bahawa kadar ketepatan ini masih agak menarik Lagipun, usaha OpenAI sebelum ini dalam pengesanan teks AI gagal dengan teruk dengan "kadar ketepatan 26%".

Pengesanan kandungan AI bukan mudah

OpenAI telah pun mempunyai reka letak dalam bidang pengesanan kandungan AI.

Pada bulan Januari tahun ini, mereka mengeluarkan pengesan teks AI untuk membezakan AI dan kandungan yang dijana manusia untuk mengelakkan teks AI daripada disalahgunakan.

Walau bagaimanapun, alat ini telah bersara pada bulan Julai: tanpa sebarang pengumuman, halaman terus 404.

Sebabnya kadar ketepatan terlalu rendah, "hampir seperti meneka".

Menurut data yang diterbitkan oleh OpenAI sendiri:

Ia hanya boleh mengenal pasti 26% teks yang dijana AI dengan betul, manakala salah mengenal pasti 9% teks tulisan manusia.

Selepas penamat yang tergesa-gesa ini, OpenAI menyatakan bahawa ia akan menyerap maklum balas pengguna, berusaha untuk menambah baik dan menyelidik teknologi sumber teks yang lebih berkesan.

Pada masa yang sama, mereka juga mengumumkan bahawa alat untuk menentukan sama ada imej, audio dan video dijana oleh AI juga akan dibangunkan.

Kini, dengan kemunculan DALL-E 3 dan lelaran berterusan alatan serupa seperti Midjourney, keupayaan mengecat AI semakin kuat dan kukuh.

Kebimbangan terbesar ialah ia digunakan untuk mengarang imej berita palsu di seluruh dunia.

Sebagai contoh, terdapat "adegan" buatan AI bagi "gempa bumi dan tsunami Cascadia 9.1 2001" di reddit, yang telah disukai oleh lebih daripada 1.2k netizen.

Berbanding dengan alat pengesan teks AI, pembangunan alat pengesan lukisan AI jelas lebih mendesak (mungkin kerana "tiada siapa peduli sama ada ucapan itu ditulis oleh diri sendiri atau oleh setiausaha", tetapi "dengan gambar, ada kebenaran" Sukar untuk tidak mempercayai kandungannya).

Walau bagaimanapun, sama seperti alat pengesan teks AI OpenAI berada di luar talian, sesetengah netizen menyatakan:

Membangunkan alat penjanaan dan pengesanan pada masa yang sama sememangnya bercanggah.

Jika satu pihak melakukan yang baik, bermakna pihak yang satu lagi tidak melakukannya dengan baik, dan mungkin juga berlaku konflik kepentingan.

Idea yang lebih mudah ialah menyerahkannya kepada pihak ketiga.

Tetapi prestasi pihak ketiga pada teks AI tidak begitu baik sebelum ini.

Mengenai teknologi itu sendiri, kaedah lain yang boleh dilaksanakan ialah menyembunyikan tera air apabila AI menjana kandungan.

Itulah yang Google lakukan.

Beberapa hari lalu (pada penghujung Ogos tahun ini), Google telah melancarkan teknologi pengesanan imej AI sebelum OpenAI:

SynthID.

Ia kini bekerjasama dengan model imej Google Imagen, supaya setiap imej yang dihasilkan oleh model dibenamkan dengan "pengecam metadata yang dijana oleh AI" -

Walaupun imej dipangkas, penapis ditambah, Satu siri pengubahsuaian, seperti kerana menukar warna atau mampatan lossy, tidak akan menjejaskan pengecaman.

Dalam ujian dalaman, SynthID mengenal pasti dengan tepat sejumlah besar imej AI yang diedit, tetapi kadar ketepatan khusus tidak didedahkan.

Saya tidak tahu teknologi apa yang akan digunakan oleh alat OpenAI yang akan datang, dan sama ada ia akan menjadi yang mempunyai ketepatan tertinggi di pasaran.

Ultraman bertindak balas kepada "Pelan Bangunan Teras"

Berita di atas datang daripada ucapan yang disampaikan oleh CTO OpenAI dan Ultraman pada persidangan Tech Live yang diadakan oleh Wall Street Journal minggu ini.

Pada pertemuan itu, kedua-duanya turut mendedahkan lebih banyak berita mengenai OpenAI.

Sebagai contoh, model besar generasi seterusnya mungkin akan dilancarkan tidak lama lagi.

Namanya tidak didedahkan, tetapi OpenAI telah memohon untuk tanda dagangan GPT-5 pada Julai tahun ini.

Sesetengah orang bimbang tentang ketepatan "GPT-5" dan bertanya sama ada ia tidak lagi boleh menghasilkan ralat atau kandungan palsu.

Dalam hal ini, CTO lebih berhati-hati dan hanya berkata "mungkin".

Dia menjelaskan:

Kami telah mencapai kemajuan besar dalam masalah halusinasi dalam GPT-4, tetapi ia belum lagi di tempat yang sepatutnya.

Ultraman bercakap tentang "Pelan Bangunan Teras".

Menilai daripada kata-kata asalnya, tidak ada "pengesahan", tetapi ia juga meninggalkan ruang yang tidak terhad untuk imaginasi:

Jika kita mengikut laluan lalai, kita pasti tidak akan melakukan ini, tetapi saya tidak akan menolak kemungkinan ini. .

Berbanding dengan "pelan pembuatan teras", Ultraman menjawab dengan agak mudah kepada khabar angin membuat telefon bimbit.

Pada bulan September tahun ini, bekas ketua pegawai reka bentuk Apple, Jony Ive (yang telah bekerja di Apple selama 27 tahun) didedahkan untuk berhubung dengan OpenAI Sources berkata bahawa Altman ingin membangunkan peranti perkakasan untuk memberikan yang lebih semula jadi dan cara interaktif untuk berinteraksi dengan AI Dengan cara yang intuitif, ia boleh dipanggil "iPhone of AI".

Kini, dia memberitahu semua orang:

Saya tidak pasti apa yang perlu dilakukan, saya hanya mempunyai beberapa idea yang tidak jelas.

Dan:

Tiada peranti AI yang akan membayangi populariti iPhone, dan saya tidak berminat untuk bersaing dengan mana-mana telefon pintar.

Pautan rujukan:
[1]https://finance.yahoo.com/news/openai-claims-tool-detect-ai-051511179.html?guccounter=1.

[2]https://gizmodo.com/openais-sam-altman-kata-dia-tiada-minat-dalam-bertanding-1850937333.

Atas ialah kandungan terperinci Alat pengesan imej OpenAI terdedah, CTO: 99% imej yang dijana oleh AI boleh dikenali. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!