Peranan kecerdasan buatan dalam keselamatan siber

​Dengan peningkatan populariti kecerdasan buatan (AI) dalam masyarakat, ia juga telah memasuki bidang keselamatan rangkaian. Kecerdasan buatan boleh membantu meningkatkan keselamatan siber dalam pelbagai cara, termasuk mengesan dan bertindak balas terhadap ancaman secara automatik, meningkatkan kecekapan rangkaian dan membantu mengenal pasti kelemahan. Dalam artikel ini, kami akan membincangkan beberapa cara kecerdasan buatan mengubah keselamatan siber dan cara ia boleh membantu perniagaan kekal selamat.

Kecerdasan buatan sedang mengubah landskap keselamatan siber. Kekuatan kertas ini menunjukkan bahawa dengan melaksanakan sistem kecerdasan buatan, organisasi akan dapat meningkatkan pengesanan dan kelajuan tindak balas serta lebih proaktif menjangka dan menangani ancaman yang muncul.

Apakah Kepintaran Buatan (AI)?

Kecerdasan buatan ialah kecerdasan yang dipaparkan oleh mesin, bukannya kecerdasan semula jadi yang ditunjukkan oleh manusia dan haiwan lain. Aplikasi AI boleh menganalisis data dan membuat keputusan sendiri, tanpa campur tangan manusia.

Kecerdasan buatan dicapai dengan menilai proses otak manusia dan mengkaji corak otak manusia. Siasatan ancaman ini membawa kepada penciptaan perisian pintar, sistem atau penyelesaian kecerdasan buatan.

Asas kecerdasan buatan adalah berdasarkan apa yang dipanggil ujian Turing kecerdasan buatan. Ujian Turing dalam kecerdasan buatan adalah kaedah untuk menentukan sama ada mesin boleh mempamerkan tingkah laku yang tidak dapat dibezakan daripada manusia. Jika jawapan kepada soalan ini adalah ya, maka mesin itu lulus ujian Turing dan dianggap pintar.

Tiga komponen utama kecerdasan buatan ialah:

• Pembelajaran AI ialah pemerolehan pengetahuan atau kemahiran baharu daripada proses pengalaman.
• Penaakulan ialah kebolehan untuk membuat kesimpulan logik daripada satu set premis.
• Pembetulan diri ialah keupayaan untuk mengenali dan membetulkan kesilapan.

Apakah peranan kecerdasan buatan dalam keselamatan siber?

Peranan kecerdasan buatan dalam keselamatan siber adalah untuk membantu organisasi mengurangkan risiko pencerobohan dan meningkatkan postur keselamatan keseluruhan mereka. Kecerdasan buatan memainkan peranan dalam keselamatan siber dengan belajar daripada data lepas untuk mengenal pasti corak dan trend. Maklumat ini kemudiannya digunakan untuk meramalkan serangan masa hadapan. Sistem berkuasa AI juga boleh dikonfigurasikan untuk bertindak balas secara automatik kepada ancaman dan memerangi ancaman siber dalam jangka masa yang lebih pantas.

Memandangkan permukaan serangan perusahaan terus berkembang dan berkembang, menganalisis dan meningkatkan ancaman siber dan serangan siber bukan lagi cabaran manusia. Bergantung pada saiz organisasi, sehingga ratusan bilion isyarat perubahan masa mesti diproses untuk mengira risiko dengan betul.

Sebagai tindak balas kepada cabaran yang tidak pernah berlaku sebelum ini, alatan dan kaedah kecerdasan buatan seperti rangkaian saraf terus berkembang untuk membantu pasukan keselamatan maklumat melindungi maklumat sensitif, mengurangkan risiko pencerobohan dan meningkatkan postur keselamatan .

Aplikasi Pembelajaran Mesin dalam Ruang Siber

Pembelajaran mesin ialah subset kecerdasan buatan yang menggunakan algoritma untuk belajar secara automatik dan menambah baik daripada pengalaman tanpa perlu diprogramkan secara eksplisit.

Ia digunakan terutamanya untuk keselamatan rangkaian dan mempunyai dua tujuan:

• Pengesanan anomali: Pembelajaran mesin boleh digunakan untuk mengesan anomali secara automatik, seperti tingkah laku pengguna yang tidak normal atau aktiviti rangkaian yang tidak dijangka, yang Anomali mungkin menunjukkan ancaman keselamatan. Contohnya, crowdstrike, darktrace dan banyak produk lain menggunakan teknologi ini.
• Klasifikasi: Pembelajaran mesin boleh digunakan untuk mengklasifikasikan data secara automatik, seperti e-mel atau fail, ke dalam kategori (seperti spam atau perisian hasad) untuk pemprosesan yang lebih cekap.

AI/Cybersecurity Conundrum - Potensi Kelemahan

Kita semua menyokong penggunaan AI untuk menyelesaikan masalah keselamatan.

Penjenayah siber boleh melatih sistem AI atau memasukkan data yang salah ke dalam set data yang digunakan oleh AI. Ini akan membolehkan mereka mencipta serangan yang lebih realistik dan canggih. Selain itu, kecerdasan buatan boleh digunakan untuk mengautomasikan serangan, membolehkan seorang aktor melakukan serangan berskala besar.

Sistem AI juga terdedah kepada tertipu oleh apa yang dipanggil "contoh musuh" - input yang direka khusus untuk memperdaya sistem supaya tersalah mengklasifikasikannya. Sebagai contoh, imej tanda berhenti yang diubah sedikit supaya ia tidak lagi dikenali sebagai tanda berhenti boleh ditipu oleh kereta pandu sendiri untuk memikirkan ia sesuatu yang lain, seperti tanda hasil. Ini boleh membawa akibat yang buruk.

Memandangkan kecerdasan buatan semakin digunakan secara meluas dalam keselamatan siber, adalah penting untuk mempertimbangkan potensi risiko dan cara mengurangkannya. Satu cara untuk melakukan ini adalah untuk memastikan bahawa sistem AI "boleh dijelaskan" - iaitu, mereka boleh memberikan sebab untuk keputusan mereka. Ini akan membantu memastikan bahawa keputusan adalah telus dan bertanggungjawab, di samping membantu menghalang contoh musuh daripada digunakan untuk menipu sistem.

Kesimpulannya, sistem keselamatan siber berasaskan AI menunjukkan potensi besar dalam membantu organisasi. Walau bagaimanapun, adalah penting untuk mengetahui potensi risiko dan mengambil langkah untuk mengurangkannya.

Bagaimanakah kecerdasan buatan digunakan dalam keselamatan?

Kecerdasan buatan mempunyai beberapa kes aplikasi yang baik dalam bidang keselamatan rangkaian. Bermula dengan penyelidik atau badan pemikir, berikut ialah contoh terbaik bagi prisma Gartner untuk kes penggunaan keselamatan siber. Hiperautomasi telah menjadi topik yang sangat membimbangkan sejak ramalan Gartner - bermakna satu lagi tahap automasi akan dilancarkan berdasarkan sistem kecerdasan buatan am generasi seterusnya. Ini melibatkan penggabungan AI/ML dengan automasi + jaminan kualiti untuk menyelaraskan pengurusan usaha tindak balas amaran dan insiden. Pada asasnya, ia akan membantu perusahaan meningkatkan keselamatan tanpa kod atau kod rendah pada skala dan meningkatkan ketangkasan perniagaan dan strategi DevOps.

Berikut ialah senarai contoh yang boleh digunakan untuk perkhidmatan keselamatan dan keselamatan awan:

• Pengesanan penipuan transaksi
• Pengesanan perisian hasad berasaskan fail
• Analisis tingkah laku proses
• Pengesanan tingkah laku sistem yang tidak normal
• Penilaian rangkaian, domain dan reputasi
• Pengoptimuman pemetaan inventori aset dan pergantungan
• Pengenalpastian pemerolehan akaun
• Akses dan kebenaran masa jalan yang adaptif
• Pembuktian pengenalan
• Perbezaan antara mesin dan manusia
• Pengesanan niat jahat berasaskan teks
• Pengenalan orang yang sama
• Analisis visual kandungan web
• Pengautomasian tugas operasi keselamatan
• Klasifikasi risiko data perniagaan
• Enjin cadangan strategi
• Korelasi Peristiwa
• Kecerdasan Bahaya
• Postur Keselamatan dan Skor Risiko

Beginilah Contoh Kecerdasan Buatan dalam Keselamatan Siber mengurangkan masa untuk mengenal pasti, mengesan dan bertindak balas terhadap ancaman keselamatan siber:

(1) Pengesanan dan pencegahan perisian hasad automatik

Kecerdasan Buatan (AI) berbanding kaedah dipacu perisian atau manual tradisional ) dan pembelajaran mesin boleh membantu memerangi penjenayah siber, mengesan ancaman secara automatik dan bertindak balas dengan lebih berkesan. Teknik pembelajaran mesin meningkatkan pengesanan perisian hasad dengan menggabungkan sejumlah besar data daripada komponen anti-perisian hasad pada hos, rangkaian dan awan.

Sampel yang tidak diketahui sebelum ini mungkin merupakan fail baharu dalam pengesanan serangan perisian hasad dan perisian tebusan, menyumbang kepada mekanisme perlindungan titik akhir. Sifat tersembunyinya mungkin berniat jahat atau tidak. Begitu juga, perisian hasad yang mampu mengelak pengesanan tidak dijamin akan ditangkap setiap kali.

Ini tidak bermakna semua serangan perisian hasad boleh dihentikan dengan kecerdasan buatan. Model ialah koleksi peraturan berstruktur matematik yang menyokong atribut data.

(2) Pengesanan Pancingan Data dan Spam

Pembelajaran mendalam menggunakan sejumlah besar data untuk melatih rangkaian saraf dalam, yang kemudiannya belajar dari semasa ke semasa cara mengklasifikasikan imej atau melengkapkan yang lain tugasan.

Model pembelajaran mendalam boleh mencapai ketepatan yang baik walaupun untuk operasi serangan dengan ciri yang agak longgar. Ia digunakan untuk mengesan pekerjaan tidak selamat dan imej lain serta serangan spam dan pancingan data.

Google menggunakan pembelajaran mendalam untuk mengesan e-mel berasaskan imej yang sukar dikesan, e-mel dengan kandungan tersembunyi dan komunikasi daripada domain yang baru dibentuk. Ini membantu mengesan serangan pancingan data yang canggih, termasuk corak trafik Internet yang dikaitkan dengan spam.

(3) Pengesanan anomali yang lebih pantas dan lebih tepat - Platform SIEM dan SOAR

Kepintaran buatan boleh mengenal pasti anomali berniat jahat dan jinak dalam data trafik rangkaian dalam hampir masa nyata . Dengan menggunakan algoritma pembelajaran mesin pada data trafik rangkaian, serangan yang tidak diketahui sebelum ini boleh dikesan, serta serangan yang diketahui yang telah diubah suai untuk mengelakkan pengesanan.

Sistem SIEM dan SOAR menambah infrastruktur keselamatan organisasi. Analitis lanjutan dan pembelajaran mesin digunakan untuk mengenal pasti makluman, tetapi ini memerlukan penalaan halus kerana berlakunya positif palsu.

SOAR ialah enjin yang mengendalikan pemulihan dan tindak balas kepada amaran SIEM. Ia direka untuk membantu pasukan keselamatan mengautomasikan proses tindak balas dengan mengumpul makluman, mengurus kes dan membalas pemberitahuan SIEM yang tidak berkesudahan.

Keupayaan risikan ancaman adalah salah satu penyelesaiannya, memberikan pasukan keselamatan pemahaman yang lebih mendalam bukan sahaja sistem komputer tetapi juga ancaman lain, pemahaman tentang peranti IoT dan penyepaduan lain.

(4) Mencari kelemahan sifar hari

Dalam "serangan sifar hari", penjenayah mengeksploitasi kecacatan perisian yang belum ditambal oleh pengilang untuk menjangkiti komputer dengan perisian hasad. Walau bagaimanapun, perbincangan dan perkembangan semasa dalam kecerdasan buatan boleh membantu.

Seni bina pembelajaran mendalam boleh digunakan untuk menemui corak tersembunyi atau terpendam dan menjadi lebih sensitif mengikut konteks dari semasa ke semasa, yang boleh membantu mengenal pasti kelemahan atau aktiviti sifar hari. Pemprosesan bahasa semula jadi boleh mengimbas kod sumber untuk fail berbahaya dan membenderakannya. Rangkaian musuh generatif boleh belajar meniru sebarang pengedaran data dan juga boleh berguna dalam mengenal pasti kecacatan yang kompleks.

(5) Tingkatkan pengesanan dan kelajuan tindak balas

Langkah pertama dalam melindungi rangkaian perusahaan anda ialah mengesan ancaman. Adalah sesuai jika data yang tidak boleh dipercayai dapat dikesan dengan cepat. Ia akan melindungi rangkaian daripada kerosakan kekal.

Menggabungkan kecerdasan buatan dengan keselamatan siber ialah cara terbaik untuk mengesan dan bertindak balas terhadap ancaman dalam masa nyata. Kepintaran buatan menyemak keseluruhan sistem untuk risiko. Tidak seperti kecerdasan manusia, kecerdasan buatan dalam domain siber boleh mengesan risiko lebih awal, menghasilkan makluman keselamatan yang lebih pantas dan tepat, menjadikan pakar keselamatan siber berfungsi dengan lebih cekap.

(6) Kesan ancaman baharu

Analisis ramalan untuk mengenal pasti tingkah laku atau corak aktiviti anomali ialah salah satu aplikasi utama kecerdasan buatan dalam keselamatan siber. Penjenayah siber sentiasa mencari cara baharu untuk mengeksploitasi sistem. Kecerdasan buatan boleh membantu mengenal pasti ancaman baharu ini sebelum ia menyebabkan sebarang kerosakan.

(7) Kurangkan bilangan positif palsu

Apabila terdapat terlalu banyak positif palsu, ia akan mengambil masa yang boleh digunakan untuk menyelesaikan masalah sebenar. Tetapi menggunakan kecerdasan buatan untuk mengenal pasti insiden keselamatan boleh mengurangkan bilangan positif palsu dan membolehkan pasukan kembali bekerja dengan cepat.

Dengan bantuan sains data, kecerdasan buatan boleh menganalisis sejumlah besar peristiwa dengan cepat dan mengenal pasti pelbagai risiko keselamatan, daripada perisian hasad kepada tingkah laku berisiko yang boleh membawa kepada pancingan data atau kod berniat jahat muat turun. Sistem ini bertambah baik dari semasa ke semasa, memanfaatkan serangan sebelumnya untuk mengenal pasti serangan semasa dan baharu. Sejarah tingkah laku membantu AI mengenal pasti dan bertindak balas terhadap tingkah laku yang menyimpang daripada norma yang ditetapkan dengan mencipta profil pengguna, aset dan rangkaian.

Sistem kecerdasan buatan sedang dilatih untuk mengesan perisian hasad, melaksanakan pengecaman corak dan menggunakan algoritma lanjutan untuk mengesan walaupun serangan perisian hasad atau perisian tebusan yang paling kecil sebelum mereka memasuki ciri sistem.

Melalui pemprosesan bahasa semula jadi, AI boleh memberikan kecerdasan ramalan yang lebih besar dengan mengikis artikel, berita dan penyelidikan tentang bahaya siber dan menyusun bahan itu sendiri. Penyelesaian keselamatan berasaskan AI yang boleh memberikan pengetahuan terkini tentang ancaman global dan khusus industri, membuat keputusan keutamaan yang lebih bijak berdasarkan perkara yang paling mungkin digunakan untuk menyerang sistem, dan bukannya apa yang mungkin digunakan untuk menyerang sistem .

(8) Kesan Bot

Bot kini membentuk sebahagian besar trafik Internet, tetapi ia boleh membawa maut. Daripada pengambilalihan akaun menggunakan kata laluan yang dicuri kepada penciptaan akaun palsu dan penipuan data, bot boleh menjadi ancaman yang serius. Respons manual tidak berkesan terhadap ancaman automatik. Kecerdasan buatan dan pembelajaran mesin boleh membantu menganalisis trafik tapak web dan membezakan antara bot yang baik, bot buruk dan manusia.

Dengan menganalisis corak tingkah laku pengguna, perniagaan boleh memahami rupa pengalaman pengguna biasa, serta rupa pengalaman berisiko tinggi yang luar biasa. Dari sini kita boleh menguraikan tujuan komunikasi rangkaian mereka, memastikan kita selangkah di hadapan robot jahat.

(9) Ramalan risiko pencerobohan

Sistem kecerdasan buatan membantu menentukan inventori aset IT, yang merupakan senarai lengkap dan tepat ancaman kepada pelbagai sistem Semua peranti, pengguna, dan aplikasi dengan hak akses yang berbeza. Kini, memandangkan inventori aset dan pendedahan ancaman (seperti yang dinyatakan di atas), sistem berasaskan AI boleh meramalkan bagaimana dan di mana ia berkemungkinan besar untuk digodam, sekali gus merancang untuk mengarahkan sumber ke lokasi yang paling lemah.

Ramalan risiko pencerobohan ini akan membantu organisasi kekal bersedia untuk mengehadkan kesan dan memutuskan rantaian serangan. Selain itu, menggunakan data risiko, dasar dan prosedur boleh dibangunkan dan diubah suai melalui analisis berasaskan AI untuk meningkatkan daya tahan siber.

Ringkasan

Jelas sekali bahawa kecerdasan buatan boleh menjadi alat yang berkuasa dalam memerangi jenayah siber. Dengan mengautomasikan tugas yang sedang dilakukan oleh penganalisis keselamatan manusia, bilangan positif palsu dapat dikurangkan dan proses pengesanan dan tindak balas dapat dipercepatkan.

Lebih penting lagi, sedar tentang potensi risiko yang berkaitan dengan penggunaan kecerdasan buatan dan ambil langkah untuk mengurangkannya.

Atas ialah kandungan terperinci Peranan kecerdasan buatan dalam keselamatan siber. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!