Tsinghua Optik AI muncul dalam Alam Semula Jadi! Rangkaian saraf fizikal, perambatan belakang tidak lagi diperlukan

Menggunakan cahaya untuk melatih rangkaian saraf, keputusan Universiti Tsinghua telah diterbitkan baru-baru ini dalam Alam Semula Jadi!

Apakah yang perlu saya lakukan jika algoritma perambatan belakang tidak boleh digunakan?

Mereka mencadangkan kaedah latihan Mod Hadapan Penuh (FFM), yang secara langsung melaksanakan proses latihan dalam sistem optik fizikal, mengatasi batasan simulasi komputer digital tradisional.

Ringkasnya, dahulunya adalah perlu untuk memodelkan sistem fizikal secara terperinci dan kemudian mensimulasikan model ini pada komputer untuk melatih rangkaian. Kaedah FFM menghapuskan proses pemodelan dan membenarkan sistem menggunakan data percubaan secara langsung untuk pembelajaran dan pengoptimuman.

Ini juga bermakna latihan tidak lagi perlu menyemak setiap lapisan dari belakang ke hadapan (backpropagation), tetapi boleh terus mengemas kini parameter rangkaian dari depan ke belakang.

Sebagai contoh, sama seperti teka-teki, rambatan belakang perlu melihat gambar akhir (output) terlebih dahulu, dan kemudian semak dan pulihkannya sekeping demi sekeping secara terbalik manakala kaedah FFM lebih seperti teka-teki yang separuh siap di tangan, dan sahaja perlu mengikut beberapa prinsip ringan (Simetri timbal balik) Teruskan mengisi tanpa kembali menyemak kepingan puzzle sebelumnya.

Dengan cara ini, kelebihan menggunakan FFM juga jelas:

Pertama, ia mengurangkan pergantungan pada model matematik, yang boleh mengelakkan masalah yang disebabkan oleh model yang tidak tepat kedua, ia menjimatkan masa (dan menggunakan lebih sedikit tenaga) , Menggunakan sistem optik membolehkan sejumlah besar data dan operasi diproses secara selari, dan menghapuskan perambatan balik juga mengurangkan bilangan langkah di seluruh rangkaian yang perlu disemak dan diselaraskan.

Pengarang bersama kertas kerja ialah Xue Zhiwei dan Zhou Tiankui dari Universiti Tsinghua, dan pengarang yang sepadan ialah Profesor Fang Lu dan Ahli Akademik Dai Qionghai dari Universiti Tsinghua. Selain itu, Xu Zhihao dari Jabatan Elektronik di Universiti Tsinghua dan Yu Shaoliang dari Makmal Zhijiang turut mengambil bahagian dalam penyelidikan ini.

Hapuskan perambatan balik

Ringkasan prinsip FFM dalam satu ayat:

Peta sistem optik ke dalam rangkaian saraf di tapak berparameter, kira kecerunan dengan mengukur medan cahaya output dan kemas kini parameter menggunakan algoritma penurunan kecerunan.

Ringkasnya, ini bermakna membiarkan sistem optik mengajar sendiri, memahami prestasinya sendiri dengan memerhati cara ia memproses cahaya (iaitu mengukur medan cahaya output), dan kemudian menggunakan maklumat ini untuk melaraskan tetapannya (parameter) secara beransur-ansur.

Rajah berikut menunjukkan mekanisme pengendalian FFM dalam sistem optik:

di mana a ialah had kaedah reka bentuk tradisional; c ialah pemetaan sistem optik kepada rangkaian saraf; .

Mengembangkan, sistem optik umum (b), termasuk optik kanta ruang bebas dan fotonik bersepadu, terdiri daripada kawasan modulasi (hijau gelap) dan kawasan perambatan (hijau muda). Di kawasan ini, indeks biasan kawasan modulasi boleh dilaraskan, manakala indeks biasan kawasan perambatan adalah tetap.

Dan kawasan modulasi dan perambatan di sini boleh dipetakan kepada pemberat dan sambungan neuron dalam rangkaian saraf.

Dalam rangkaian neural, bahagian boleh laras ini adalah seperti titik sambungan antara neuron dan boleh mengubah kekuatannya (berat) untuk belajar.

Menggunakan prinsip timbal balik simetri spatial, data dan pengiraan ralat boleh berkongsi proses perambatan fizikal ke hadapan dan kaedah pengukuran yang sama.

Ia agak seperti pantulan dalam cermin, setiap bahagian sistem bertindak balas terhadap perambatan cahaya dan maklum balas ralat dengan cara yang sama. Ini bermakna tidak kira bagaimana cahaya memasuki sistem, sistem memprosesnya dengan cara yang konsisten dan menyesuaikan dirinya berdasarkan keputusan.

Dengan cara ini, kecerunan boleh dikira terus di tapak dan digunakan untuk mengemas kini indeks biasan dalam kawasan reka bentuk, dengan itu mengoptimumkan prestasi sistem.

Melalui kaedah penurunan kecerunan di tapak, sistem optik boleh melaraskan parameternya secara beransur-ansur sehingga mencapai keadaan optimum.

Teks asal menggunakan persamaan untuk akhirnya menyatakan kaedah penurunan kecerunan mod hadapan penuh yang disebut di atas (menggantikan perambatan belakang) sebagai:

Kaedah latihan rangkaian saraf optik

Sebagai kaedah latihan rangkaian saraf optik, FFM It mempunyai kelebihan berikut:

Ketepatan setanding model ideal

Menggunakan FFM boleh mencapai proses latihan kendiri yang berkesan pada rangkaian saraf optik ruang bebas (ONN).

Untuk menggambarkan kesimpulan ini, para penyelidik mula-mula menggunakan ONN lapisan tunggal untuk melakukan latihan pengelasan objek pada set data penanda aras (a).

Secara khusus, mereka menggunakan beberapa gambar digit tulisan tangan (set data MNIST) untuk melatih sistem ini, dan kemudian memvisualisasikan hasilnya (b).

Hasilnya menunjukkan bahawa ONN yang dilatih oleh pembelajaran FFM mempunyai persamaan yang sangat tinggi antara medan cahaya eksperimen dan medan cahaya teori (SSIM melebihi 0.97).

Dalam erti kata lain, ia belajar dengan baik sehingga hampir dapat menyalin contoh yang diberikan kepadanya dengan sempurna.

Walau bagaimanapun, penyelidik juga mengingatkan:

Disebabkan ketidaksempurnaan dalam sistem, medan cahaya dan kecerunan yang dikira secara teori tidak dapat mencerminkan sepenuhnya fenomena fizikal sebenar dengan tepat.

Seterusnya, penyelidik menggunakan imej yang lebih kompleks (set data Fesyen-MNIST) untuk melatih sistem mengenali item fesyen yang berbeza.

Pada mulanya, apabila bilangan lapisan meningkat daripada 2 kepada 8, purata ketepatan rangkaian terlatih komputer adalah hampir separuh daripada ketepatan teori.

Dengan kaedah pembelajaran FFM, ketepatan rangkaian sistem telah meningkat kepada 92.5%, iaitu hampir dengan nilai teori.

Ini menunjukkan bahawa apabila bilangan lapisan rangkaian bertambah, prestasi rangkaian yang dilatih dengan kaedah tradisional berkurangan, manakala pembelajaran FFM dapat mengekalkan ketepatan yang tinggi.

Pada masa yang sama, prestasi ONN boleh dipertingkatkan lagi dengan memasukkan pengaktifan bukan linear ke dalam pembelajaran FFM. Dalam eksperimen, pembelajaran FFM tak linear dapat meningkatkan ketepatan klasifikasi daripada 90.4% kepada 93.0%.

Penyelidikan seterusnya membuktikan bahawa dengan latihan batch non-linear ONN, proses penyebaran ralat dapat dipermudahkan dan masa latihan hanya meningkat 1 hingga 1.7 kali ganda.

Keupayaan pemfokusan resolusi tinggi

FFM juga boleh mencapai pengimejan berkualiti tinggi dalam aplikasi praktikal, mencapai resolusi hampir dengan had fizikal walaupun dalam persekitaran serakan yang kompleks.

Pertama sekali, apabila gelombang cahaya memasuki medium hamburan (seperti kabus, asap atau tisu biologi, dll.), pemfokusan akan menjadi rumit, tetapi perambatan gelombang cahaya dalam medium sering mengekalkan simetri tertentu.

FFM mengambil kesempatan daripada simetri ini dengan mengoptimumkan laluan perambatan dan fasa gelombang cahaya untuk mengurangkan kesan negatif kesan penyebaran pada pemfokusan.

Kesannya juga sangat ketara. Rajah b menunjukkan perbandingan dua kaedah pengoptimuman, FFM dan PSO (Particle Swarm Optimization).

Secara khusus, eksperimen menggunakan dua media serakan, satu adalah plat fasa rawak (Scatterer-I) dan satu lagi adalah pita lutsinar (Scatterer-II).

Dalam kedua-dua media, FFM mencapai penumpuan (mencari penyelesaian optimum dengan lebih cepat) selepas hanya 25 lelaran reka bentuk, dengan nilai kehilangan penumpuan masing-masing 1.84 dan 2.07 (lebih rendah adalah prestasi yang lebih baik).

Kaedah PSO memerlukan sekurang-kurangnya 400 lelaran reka bentuk untuk mencapai penumpuan, dan nilai kehilangan pada penumpuan akhir ialah 2.01 dan 2.15.

Pada masa yang sama, Rajah c menunjukkan bahawa FFM mampu mengoptimumkan dirinya secara berterusan, dan fokus yang direka bentuk untuk berkembang secara beransur-ansur dan menumpu daripada pengedaran rawak awal kepada fokus yang ketat.

Dalam kawasan reka bentuk 3.2 mm × 3.2 mm, para penyelidik menyeragamkan lagi fokus FFM dan PSO yang dioptimumkan dan membandingkan FWHM mereka (lebar penuh pada separuh maksimum) dan PSNR (nisbah isyarat puncak kepada hingar).

Hasilnya menunjukkan bahawa FFM mempunyai ketepatan pemfokusan yang lebih tinggi dan kualiti pengimejan yang lebih baik.

Rajah e menilai lagi prestasi tatasusunan fokus yang direka bentuk apabila mengimbas peta peleraian yang terletak di belakang medium penyerakan.

Hasilnya memeranjatkan Saiz fokus reka bentuk FFM menghampiri had pembelauan 64.5 m, iaitu standard resolusi tertinggi teori untuk pengimejan optik.

Mampu mengimej objek selari di luar garis penglihatan

Memandangkan ia sangat berkuasa dalam media serakan, penyelidik juga mencuba senario bukan garis penglihatan (NLOS), di mana objek tersembunyi daripada penglihatan.

FFM mengeksploitasi simetri spatial laluan cahaya daripada objek tersembunyi kepada pemerhati, yang membolehkan sistem membina semula dan menganalisis objek tersembunyi dinamik dalam medan dengan cara yang serba optik.

Dengan mereka bentuk muka gelombang input, FFM dapat menayangkan semua jerat dalam objek secara serentak ke kedudukan sasarannya, mencapai pemulihan selari objek tersembunyi.

Sasaran kromium tersembunyi berbentuk huruf "T", "H" dan "U" telah digunakan dalam eksperimen, dan masa pendedahan (1 milisaat) dan kuasa optik (0.20 mW) ditetapkan untuk mencapai pengimejan pantas dinamik ini sasaran.

Hasilnya menunjukkan bahawa tanpa muka gelombang rekaan FFM, imej akan menjadi sangat herot. Walaupun muka gelombang rekaan FFM dapat memulihkan bentuk ketiga-tiga huruf, SSIM (indeks kesamaan struktur) mencapai 1.0, menunjukkan tahap persamaan yang tinggi dengan imej asal.

Seterusnya, berbanding dengan rangkaian saraf tiruan (ANN) dari segi kecekapan foton dan prestasi klasifikasi, FFM mengatasi prestasi ANN dengan ketara, terutamanya dalam keadaan foton rendah.

Secara khusus, dalam situasi di mana bilangan foton adalah terhad (seperti banyak permukaan reflektif atau sangat meresap), FFM dapat menyesuaikan herotan muka gelombang secara adaptif dan memerlukan lebih sedikit foton untuk pengelasan yang tepat.

Pencarian automatik untuk outlier dalam sistem bukan Hermitian

Kaedah FFM bukan sahaja terpakai kepada sistem optik ruang bebas, tetapi juga boleh diperluaskan kepada reka bentuk sendiri sistem fotonik bersepadu.

Para penyelidik membina rangkaian neural bersepadu (a) menggunakan teras fotonik simetri yang dikonfigurasikan secara bersiri dan selari.

Dalam eksperimen, teras simetri telah dikonfigurasikan dengan pengecil optik boleh ubah (VOA) melalui tahap arus suntikan yang berbeza untuk mencapai pekali pengecilan yang berbeza untuk mensimulasikan berat yang berbeza.

In Abbildung c ist die Genauigkeit der programmierten Matrixwerte im symmetrischen Kern sehr hoch, mit Standardabweichungen der Zeitdrift von 0,012 %, 0,012 % bzw. 0,010 %, was darauf hinweist, dass die Matrixwerte sehr stabil sind.

Und die Forscher visualisierten den Fehler für jede Schicht. Beim Vergleich des experimentellen Gradienten mit dem theoretischen Simulationswert beträgt die durchschnittliche Abweichung 3,5 %.

Nach etwa 100 Iterationen (Epochen) erreicht das Netzwerk Konvergenz.

Experimentelle Ergebnisse zeigen, dass bei drei verschiedenen Symmetrieverhältniskonfigurationen (1,0, 0,75 oder 0,5) die Klassifizierungsgenauigkeit des Netzwerks 94,7 %, 89,2 % bzw. 89,0 % beträgt.

Die Klassifizierungsgenauigkeit, die durch die Verwendung des neuronalen Netzwerks mit der FFM-Methode erreicht wird, beträgt 94,2 %, 89,2 % und 88,7 %.

Wenn dagegen herkömmliche Computersimulationsmethoden zum Entwurf des Netzwerks verwendet werden, ist die Klassifizierungsgenauigkeit des Experiments geringer, nämlich 71,7 %, 65,8 % bzw. 55,0 %.

Schließlich zeigten die Forscher auch, dass FFM nicht-hermitesche Systeme selbst entwerfen und die Durchquerung singulärer Punkte erreichen kann, ohne dass physikalische Modelle durch numerische Simulation erforderlich sind.

Nicht-Hermitesches System ist ein Konzept in der Physik, das Systeme in Bereichen wie der Quantenmechanik und Optik umfasst, die die Hermiteschen Bedingungen nicht erfüllen.

Hermitesche Eigenschaften hängen mit der Symmetrie des Systems zusammen und die tatsächliche Anzahl der nicht-hermiteschen Systeme erfüllt diese Bedingungen nicht. Sie können einige besondere physikalische Phänomene aufweisen, wie z. B. außergewöhnliche Punkte, die die Dynamik darstellen des Systems, bei dem das Lernverhalten an bestimmten Stellen seltsame Veränderungen erfährt.

Um den vollständigen Artikel zusammenzufassen: FFM ist eine Methode zur Implementierung rechenintensiver Trainingsprozesse auf physischen Systemen, mit der die meisten maschinellen Lernvorgänge effizient parallel ausgeführt werden können.

Detailliertere experimentelle Einstellungen und den Prozess der Datensatzvorbereitung finden Sie im Originalartikel.

Code:

https://zenodo.org/records/10820584

Originaltext von „Nature“:

https://www.nature.com/articles/s41586-024-07687-4

Atas ialah kandungan terperinci Tsinghua Optik AI muncul dalam Alam Semula Jadi! Rangkaian saraf fizikal, perambatan belakang tidak lagi diperlukan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!