OpenAI mengumumkan pelan keselamatan rangkaian: Membelanjakan berjuta-juta dolar, AI mungkin secara automatik menambal kelemahan rangkaian pada masa hadapan

Dihasilkan oleh Sohu Technology

Pengarang｜Zheng Songyi

Pada 2 Jun, waktu Beijing, syarikat penyelidikan kecerdasan buatan OpenAI di Amerika Syarikat mengumumkan Program Geran Cybersecurity, yang akan menelan kos AS$1 juta untuk meningkatkan dan mengukur keupayaan keselamatan siber dipacu AI dan mempromosikan perbincangan AI Cybersecurity peringkat tinggi.

Baru-baru ini, masalah keselamatan rangkaian yang disebabkan oleh penyalahgunaan teknologi AI telah kerap berlaku, dan ramalan Musk dan pihak lain tentang "krisis keselamatan AI" telah dipenuhi lebih awal daripada jadual. Difahamkan terdapat banyak insiden penipuan berteknologi tinggi di seluruh negara baru-baru ini Penjenayah menggunakan teknologi "penukaran wajah AI" dan "tiruan suara AI" untuk berpura-pura menjadi rakan mangsa, dan menipu jumlah sehingga satu juta. yuan dalam 9 saat.

Pakar industri telah menganalisis bahawa teknologi AI sendiri juga mempunyai kelemahan keselamatan. Rangkaian saraf dalam arus perdana semasa dan teknologi lain mempunyai sifat "kotak hitam", yang akan menyebabkan beberapa algoritma AI tidak dapat ditafsirkan banyak masalah dalam keselamatan algoritma Terdapat ketidakpastian dalam industri, yang boleh membawa kepada bahaya dan risiko keselamatan dalam pelaksanaan aplikasi industri.

Tapak web rasmi OpenAI menyatakan, "Matlamat kami adalah untuk mempromosikan pembangunan keupayaan keselamatan siber berasaskan kecerdasan buatan untuk pembela melalui geran dan sokongan lain

Menurut laporan, rancangan itu mengandungi tiga matlamat utama:

1. Memperkasakan pembela: Kami berharap untuk memastikan ciri AI yang paling canggih memberi manfaat kepada pembela terlebih dahulu.

2. Keupayaan mengukur: Bekerja untuk membangunkan kaedah untuk mengukur keupayaan keselamatan siber model AI untuk lebih memahami dan meningkatkan keberkesanannya.

3. Tingkatkan perbincangan: Komited untuk mempromosikan perbincangan yang rapi di persimpangan AI dan keselamatan siber, menggalakkan pemahaman yang komprehensif dan bernuansa tentang cabaran dan peluang dalam bidang tersebut.

OpenAI berkata, "Kebijaksanaan konvensional dalam keselamatan siber berpendapat bahawa persekitaran ini secara semula jadi memberi kelebihan kepada penyerang berbanding pemain pertahanan: 'Pertahanan mesti 100% betul, penyerang hanya perlu betul 'Sementara itu mungkin benar bahawa penyerang menghadapi lebih sedikit kekangan dan mengambil kesempatan daripada fleksibiliti mereka, pembela mempunyai sesuatu yang lebih berharga - penyelarasan untuk mencapai matlamat bersama untuk memastikan orang selamat."

Dilaporkan bahawa idea semasa OpenAI untuk rancangan itu termasuk tetapi tidak terhad kepada membenarkan AI menambal kelemahan rangkaian secara automatik, mengenal pasti secara automatik isu keselamatan dalam kod sumber rangkaian dan menggunakan teknologi penipuan untuk memerangkap penyerang.

OpenAI kini telah membuka pelan perekrutan projeknya OpenAI akan menilai dan menerima permohonan untuk pembiayaan atau sokongan lain, dengan keutamaan diberikan kepada aplikasi praktikal kecerdasan buatan dalam keselamatan siber defensif (alat, kaedah, proses). OpenAI akan menyediakan pembiayaan tambahan sebanyak $10,000 daripada dana $1 juta dalam bentuk kredit API, geran langsung dan/atau setara.

OpenAI menekankan bahawa pada masa ini ia tidak akan mempertimbangkan untuk membiayai projek keselamatan yang menyinggung perasaan.

Atas ialah kandungan terperinci OpenAI mengumumkan pelan keselamatan rangkaian: Membelanjakan berjuta-juta dolar, AI mungkin secara automatik menambal kelemahan rangkaian pada masa hadapan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!