Kajian: Pembantu pengekodan AI boleh membawa kepada kod yang tidak selamat, pembangun harus berhati-hati

Penyelidik mengatakan bahawa pembangun bergantung pada pembantu AI (kecerdasan buatan) semasa menulis kod akan menjadikan mereka terlalu yakin dalam kerja pembangunan mereka, menyebabkan kod kurang selamat.

Kajian terbaru yang dijalankan oleh Universiti Stanford mendapati bahawa pembantu pengekodan berasaskan AI, seperti Copilot GitHub, boleh menyebabkan pembangun keliru tentang kualiti kerja mereka, yang membawa kepada perisian Di sana mungkin kelemahan dan ia kurang selamat. Seorang pakar AI berkata adalah penting bagi pembangun mengurus jangkaan mereka apabila menggunakan pembantu AI untuk tugasan tersebut.

Pengekodan AI memperkenalkan lebih banyak kelemahan keselamatan

Kajian itu menjalankan percubaan dengan 47 pembangun, 33 daripadanya menggunakan pembantu AI semasa menulis kod, berbanding kumpulan kawalan 14 orang menulis kod sahaja. Mereka mesti menyelesaikan lima tugas pengaturcaraan berkaitan keselamatan, termasuk menyulitkan atau menyahsulit rentetan menggunakan kekunci simetri. Mereka semua boleh mendapatkan bantuan menggunakan pelayar web.

Alat pembantu AI untuk pengekodan dan tugasan lain menjadi semakin popular, dan GitHub milik Microsoft akan melancarkan Copilot sebagai pratonton teknologi pada tahun 2021 untuk meningkatkan produktiviti pembangun.

Microsoft menegaskan dalam laporan penyelidikan yang dikeluarkan pada September tahun ini bahawa GitHub menjadikan pembangun lebih cekap. 88% responden mengatakan Copilot lebih cekap semasa pengekodan, dan 59% mengatakan faedah utamanya ialah menyelesaikan tugasan berulang dengan lebih cepat dan menyelesaikan pengekodan dengan lebih cepat.

Penyelidik di Universiti Stanford ingin mengetahui sama ada pengguna menulis kod yang lebih tidak selamat dengan pembantu AI, dan mendapati perkara ini memang berlaku. Pembangun yang menggunakan pembantu AI tetap kecewa tentang kualiti kod mereka, kata mereka.

Pasukan itu menulis dalam kertas itu: "Kami mendapati bahawa pembangun yang menerima bantuan daripada pembantu AI lebih berkemungkinan memperkenalkan kelemahan keselamatan dalam kebanyakan tugas pengaturcaraan berbanding pembangun dalam kumpulan kawalan, tetapi juga dalam Lebih cenderung menilai jawapan tidak selamat sebagai selamat Selain itu, kajian mendapati bahawa pembangun yang berusaha lebih keras untuk membuat pertanyaan kepada pembantu AI mereka (seperti menggunakan ciri pembantu AI atau melaraskan parameter) akhirnya lebih cenderung untuk memberikan penyelesaian yang selamat Hanya tiga bahasa pengaturcaraan digunakan dalam projek penyelidikan ini: Python, C dan Verilog. Ia melibatkan bilangan peserta yang agak kecil dengan pengalaman pembangunan yang berbeza-beza, daripada graduan kolej baru-baru ini kepada profesional berpengalaman, menggunakan aplikasi yang dibangunkan khas yang dipantau oleh pentadbir.

Percubaan pertama ditulis dalam Python, dan eksperimen yang ditulis dengan bantuan pembantu AI berkemungkinan besar tidak selamat atau tidak betul. Dalam kumpulan kawalan tanpa bantuan pembantu AI, 79% pembangun menulis kod tanpa masalah kualiti manakala dalam kumpulan kawalan dengan bantuan pembantu AI, hanya 67% pembangun menulis kod tanpa masalah kualiti.

Gunakan Pembantu Pengekodan AI dengan Berhati-hati

Keadaan menjadi lebih teruk apabila melibatkan keselamatan kod yang mereka cipta, kerana pembangun yang menggunakan pembantu AI lebih cenderung untuk menyediakan penyelesaian yang tidak selamat atau menggunakan Kata laluan mudah untuk menyulitkan dan menyahsulit rentetan. Mereka juga kurang berkemungkinan melakukan semakan kebolehpercayaan pada nilai akhir untuk memastikan proses berfungsi seperti yang diharapkan.

Penyelidik di Universiti Stanford berkata penemuan menunjukkan bahawa pembangun yang kurang berpengalaman mungkin cenderung untuk mempercayai pembantu AI, tetapi berisiko memperkenalkan kelemahan keselamatan baharu. Oleh itu, penyelidikan ini akan membantu menambah baik dan membimbing reka bentuk pembantu kod AI masa depan.

Peter van der Putten, pengarah makmal AI di vendor perisian Pegasystems, berkata walaupun skalanya kecil, penyelidikan itu sangat menarik dan hasilnya boleh memberi inspirasi kepada penyelidikan lanjut tentang penggunaan pembantu AI dalam pengekodan dan penggunaan kawasan lain. "Ia juga konsisten dengan apa yang telah disimpulkan oleh beberapa penyelidikan kami yang lebih luas tentang pergantungan pada pembantu AI," katanya

Dia memberi amaran bahawa pembangun yang menggunakan pembantu AI harus mendapat akses kepada mereka secara berperingkat Percayai alat itu. jangan terlalu bergantung padanya, dan fahami batasannya. Beliau berkata, “Penerimaan sesuatu teknologi bukan sahaja bergantung pada jangkaan untuk kualiti dan prestasi, tetapi juga pada sama ada ia menjimatkan masa dan usaha Secara keseluruhannya, orang ramai mempunyai sikap positif terhadap penggunaan pembantu AI, selagi Jangkaan mereka diurus. Ini bermakna mentakrifkan amalan terbaik untuk cara menggunakan alatan ini, serta menggunakan ciri tambahan yang berpotensi untuk menguji kualiti kod ”

Atas ialah kandungan terperinci Kajian: Pembantu pengekodan AI boleh membawa kepada kod yang tidak selamat, pembangun harus berhati-hati. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!