AI tidak dipelajari! Penyelidikan baru mendedahkan cara untuk menguraikan kotak hitam kecerdasan buatan

Kecerdasan Buatan (AI) telah berkembang pesat, tetapi bagi manusia, model berkuasa adalah "kotak hitam".

Kami tidak memahami kerja dalaman model dan proses ia mencapai kesimpulannya.

Walau bagaimanapun, baru-baru ini, Profesor Jürgen Bajorath, pakar kimia di Universiti Bonn, dan pasukannya membuat satu kejayaan besar.

Mereka mereka bentuk teknik yang mendedahkan cara beberapa sistem kecerdasan buatan digunakan dalam penyelidikan dadah.

Penyelidikan menunjukkan bahawa model kecerdasan buatan meramalkan keberkesanan ubat terutamanya dengan mengingat semula data sedia ada, dan bukannya mempelajari interaksi kimia tertentu.

——Dalam erti kata lain, ramalan AI semata-mata bergantung pada menyatukan kenangan, dan pembelajaran mesin sebenarnya tidak belajar!

Hasil penyelidikan mereka baru-baru ini diterbitkan dalam jurnal Nature Machine Intelligence.

Alamat kertas: https://www.nature.com/articles/s42256-023-00756-9

Dalam bidang perubatan, penyelidik sedang demam mencari penyakit yang berkesan —Molekul ubat manakah yang paling berkesan?

Biasanya, molekul (sebatian) berkesan ini dilekatkan pada protein, yang bertindak sebagai enzim atau reseptor yang mencetuskan rantai tindakan fisiologi tertentu.

Dalam kes khas, molekul tertentu juga bertanggungjawab untuk menyekat tindak balas buruk dalam badan, seperti tindak balas keradangan yang berlebihan.

Bilangan sebatian yang mungkin adalah besar dan mencari yang berkesan adalah seperti mencari jarum dalam timbunan jerami.

Jadi para penyelidik mula-mula menggunakan model AI untuk meramalkan molekul mana yang terbaik akan berlabuh dan mengikat kuat pada protein sasaran masing-masing. Calon ubat ini kemudiannya disaring dengan lebih terperinci dalam kajian eksperimen.

Sejak pembangunan kecerdasan buatan, penyelidikan penemuan dadah semakin banyak menerima pakai teknologi berkaitan AI.

Sebagai contoh, graf neural network (GNN) sesuai untuk meramal kekuatan pengikatan molekul tertentu kepada protein sasaran.

Graf terdiri daripada nod yang mewakili objek dan tepi yang mewakili hubungan antara nod. Dalam perwakilan graf kompleks protein-ligan, tepi graf menghubungkan protein atau nod ligan, mewakili struktur bahan, atau interaksi antara protein dan ligan.

Model GNN menggunakan peta interaksi protein-ligan yang diekstrak daripada struktur sinar-X untuk meramalkan pertalian ligan.

Profesor Jürgen Bajorath berkata bahawa model GNN adalah seperti kotak hitam bagi kami, dan kami tidak mempunyai cara untuk mengetahui cara ia memperoleh ramalannya.

Profesor Jürgen Bajorath bekerja di Institut LIMES Universiti Bonn, Pusat Teknologi Maklumat Antarabangsa Bonn-Aachen (Pusat Teknologi Maklumat Antarabangsa Bonn-Aachen) dan Institut Lamarr untuk Pembelajaran Mesin dan Kepintaran Buatan (Institut Lamarr untuk Pembelajaran Mesin dan Kepintaran Buatan).

Bagaimana kecerdasan buatan berfungsi?

Penyelidik dari Jabatan Informatik Kimia Universiti Bonn, bersama-sama rakan sekerja dari Universiti Sapienza Rom, menganalisis secara terperinci sama ada rangkaian saraf graf benar-benar mempelajari interaksi antara protein dan ligan.

Para penyelidik menganalisis sejumlah enam seni bina GNN berbeza menggunakan kaedah "EdgeSHAPer" mereka yang dibangunkan khas.

Program EdgeSHAPer boleh menentukan sama ada GNN telah mempelajari interaksi paling penting antara sebatian dan protein, atau membuat ramalan melalui kaedah lain.

Para saintis melatih enam GNN menggunakan graf yang diekstrak daripada struktur kompleks protein-ligan - di mana cara tindakan kompaun dan kekuatan pengikatannya kepada protein sasaran diketahui.

Kemudian, uji GNN terlatih pada sebatian lain dan gunakan EdgeSHAPer untuk menganalisis cara GNN menghasilkan ramalan.

"Jika GNN berkelakuan seperti yang diharapkan, mereka perlu mempelajari interaksi antara sebatian dan protein sasaran dan membuat ramalan dengan mengutamakan interaksi tertentu."

Walau bagaimanapun, menurut analisis pasukan penyelidik, enam GNN pada dasarnya gagal melakukan ini. Kebanyakan GNN hanya mempelajari beberapa interaksi protein-ubat, memfokuskan terutamanya pada ligan.

Rajah di atas menunjukkan keputusan percubaan dalam 6 GNN Bar skala warna mewakili bahagian purata protein, ligan dan interaksi dalam 25 tepi teratas setiap ramalan yang ditentukan oleh EdgeSHAPer.

Kita dapat melihat bahawa interaksi yang diwakili oleh hijau ialah perkara yang perlu dipelajari oleh model, tetapi perkadarannya dalam keseluruhan eksperimen tidak tinggi, dan bar oren yang mewakili ligan menyumbang perkadaran terbesar.

Untuk meramalkan kekuatan pengikatan molekul kepada protein sasaran, model terutamanya "mengingat" molekul yang serupa secara kimia dan data pengikatannya yang mereka temui semasa latihan, tanpa mengira protein sasaran. Persamaan kimia yang diingati ini pada asasnya menentukan ramalan.

Ini mengingatkan "kesan Hans Pandai" - sama seperti kuda yang nampaknya boleh mengira, tetapi sebenarnya berdasarkan nuansa mimik muka dan gerak isyarat sahabatnya, untuk menyimpulkan yang diharapkan. keputusan.

Ini mungkin bermakna bahawa apa yang dipanggil "keupayaan pembelajaran" GNN mungkin tidak dapat dipertahankan dan ramalan model sebahagian besarnya dianggarkan terlalu tinggi kerana pengetahuan kimia dan kaedah yang lebih mudah boleh digunakan untuk melaksanakan ramalan kualiti yang sama.

Walau bagaimanapun, fenomena lain juga ditemui dalam kajian: apabila potensi sebatian ujian meningkat, model cenderung untuk mempelajari lebih banyak interaksi.

Mungkin dengan mengubah suai teknik perwakilan dan latihan, GNN ini boleh dipertingkatkan lagi ke arah yang dikehendaki. Walau bagaimanapun, andaian bahawa kuantiti fizik boleh dipelajari daripada graf molekul secara amnya harus dilayan dengan berhati-hati.

"Kecerdasan buatan bukan ilmu hitam."

Atas ialah kandungan terperinci AI tidak dipelajari! Penyelidikan baru mendedahkan cara untuk menguraikan kotak hitam kecerdasan buatan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!