Andrew Ng: Kerjasama berbilang ejen adalah kunci baharu, dan tugas seperti pembangunan perisian akan menjadi lebih cekap

Tidak lama dahulu, Profesor Universiti Stanford Andrew Ng menyebut potensi besar ejen pintar dalam ucapannya, yang turut membangkitkan banyak perbincangan. Antaranya, Ng Enda menyebut bahawa aliran kerja ejen yang dibina berdasarkan GPT-3.5 berprestasi lebih baik dalam aplikasi berbanding GPT-4. Ini menunjukkan bahawa tidak semestinya dinasihatkan untuk mengehadkan pandangan seseorang kepada model besar, dan ejen itu mungkin lebih baik daripada model asas yang digunakannya.

Dalam bidang pembangunan perisian, ejen ini telah menunjukkan kebolehan unik mereka untuk bekerjasama dengan cekap, menangani masalah kompleks dalam pengaturcaraan, dan juga melakukan penjanaan kod automatik. Aliran teknologi terkini menunjukkan bahawa komunikasi pintar AI menunjukkan potensi besar dalam pembangunan perisian. Ingat Devin? Dikenali sebagai jurutera perisian AI pertama di dunia, ia mengagumkan kami apabila ia muncul Satu ejen boleh membawa kami pengalaman sedemikian Jika berbilang ejen bekerjasama, bolehkah nilai pengalaman dimaksimumkan?

Bayangkan satu pasukan berbilang ejen, setiap ahli pakar dalam tugas tertentu, seperti semakan kod, pengesanan ralat atau pelaksanaan ciri baharu. Entiti pintar ini boleh melengkapkan keupayaan satu sama lain dan bersama-sama mempromosikan kemajuan projek perisian. Bukankah ini akan membebaskan tangan pengaturcara dan tidak lagi perlu risau tentang tenosynovitis?

Andrew Ng menulis artikel yang membawa kita jauh ke dalam bidang ini dan menerokai perkembangan terkini dalam sistem pintar. Dengan latar belakang inilah alat seperti AutoGen dan LangGraph yang disebut dalam artikel itu wujud. Alat ini direka bentuk untuk membantu pembangun menggunakan dan mengurus ejen AI dengan lebih mudah untuk merealisasikan potensi penuh mereka. Dengan kuasa mereka, orang yang tidak mempunyai latar belakang pengaturcaraan yang kukuh boleh memanfaatkan ejen AI untuk mengoptimumkan dan mengautomasikan proses pembangunan perisian. Berikut ialah kompilasi dan terjemahan "Heart of the Machine" tanpa mengubah maksud asal.

Pautan asal: https://www.deeplearning.ai/the-batch/issue-245/

Kolaborasi ejen ialah empat ejen AI utama yang saya nyatakan dalam surat terbaru saya corak reka bentuk. Untuk tugasan yang rumit seperti menulis perisian, pendekatan berbilang ejen memecahkan tugas kepada subtugas yang dilakukan oleh peranan yang berbeza (seperti jurutera perisian, pengurus produk, pereka bentuk, jurutera QA, dll.) dan membolehkan ejen yang berbeza menyelesaikan tugasan yang berbeza.

Ejen yang berbeza boleh dibina dengan menyediakan LLM (atau berbilang LLM) untuk melaksanakan tugas yang berbeza. Contohnya, untuk membina ejen jurutera perisian, kami boleh menyediakan LLM: "Anda pakar dalam menulis kod yang jelas dan cekap. Sila tulis kod untuk melaksanakan tugas...".

Kami memanggil model bahasa besar (LLM) yang sama beberapa kali, tetapi kami menggunakan pendekatan abstraksi pengaturcaraan berbilang ejen, yang mungkin kelihatan bertentangan dengan intuisi, tetapi terdapat beberapa sebab untuk menyokongnya:

1. Ia berkesan! Banyak pasukan telah menggunakan pendekatan ini untuk memberi kesan yang baik, dan tiada apa yang lebih meyakinkan daripada keputusannya. Tambahan pula, kajian ablasi (seperti dalam kertas AutoGen) menunjukkan bahawa berbilang ejen mengatasi prestasi ejen tunggal.
2. Walaupun sesetengah LLM hari ini boleh menerima konteks input yang sangat panjang (contohnya, Gemini 1.5 Pro boleh menerima 1 juta token), keupayaan mereka untuk benar-benar memahami input yang panjang dan kompleks adalah tidak sekata. Gunakan aliran kerja ejen dan biarkan LLM menumpukan pada satu perkara pada satu masa untuk mencapai prestasi yang lebih baik.
3. Paling penting, corak reka bentuk berbilang ejen menyediakan pemaju rangka kerja untuk menguraikan tugasan yang kompleks kepada subtugasan. Apabila menjalankan kod pada CPU tunggal, kami sering memecahkan atur cara kepada proses atau benang yang berbeza. Abstraksi ini membantu kami memecahkan tugasan kepada subtugas yang lebih mudah untuk dikodkan. Berfikir dari segi peranan berbilang ejen juga merupakan abstraksi yang berguna.

Di banyak syarikat, pengurus sering memutuskan peranan yang hendak diambil dan kemudian cara memecahkan projek yang rumit — seperti menulis sebahagian perisian atau menyediakan laporan penyelidikan — menjadi tugas yang lebih kecil yang diberikan kepada orang yang mempunyai Pekerja yang berbeza. kepakaran. Menggunakan berbilang ejen berfungsi sama. Setiap ejen melaksanakan aliran kerjanya sendiri dan mempunyai ingatan sendiri (yang itu sendiri merupakan bidang yang berkembang pesat dalam teknologi ejen: cara ejen mengingati interaksi masa lalu yang mencukupi untuk melaksanakan tugas yang lebih baik pada masa hadapan), dan mungkin meminta bantuan daripada ejen lain. Ejen juga boleh merancang dan menggunakan alat. Ini akan menjana sejumlah besar panggilan LLM dan pemindahan maklumat antara ejen, yang mungkin membentuk aliran kerja yang sangat kompleks.

Walaupun mengurus orang adalah sukar, ia adalah sesuatu yang kami sangat biasa dan ia menyediakan rangka kerja mental untuk cara kami "mengupah" dan menyerahkan tugas kepada ejen AI kami. Nasib baik, kerosakan salah urus ejen AI adalah lebih kecil daripada salah urus manusia!

Rangka kerja baru muncul seperti AutoGen, Crew AI dan LangGraph menyediakan penyelesaian pelbagai ejen yang kaya untuk menyelesaikan masalah. Jika anda berminat untuk bermain dengan sistem berbilang ejen yang menyeronokkan, lihat ChatDev, pelaksanaan sumber terbuka koleksi ejen yang menjalankan syarikat perisian maya. Anda boleh menyemak repo GitHub mereka, mungkin mengklon repo dan menjalankan sistem sendiri. Walaupun ia mungkin tidak selalu menghasilkan hasil yang anda inginkan, anda mungkin terkejut dengan prestasinya.

Sama seperti merancang corak reka bentuk ini, saya mendapati kualiti keluaran kerjasama pelbagai ejen sukar untuk diramalkan, terutamanya apabila membenarkan ejen berinteraksi secara bebas dan menyediakan mereka dengan pelbagai alatan. Corak refleksi dan penggunaan alat yang lebih matang adalah lebih dipercayai. Saya harap anda seronok bermain dengan corak reka bentuk ejen ini dan ia memberi anda hasil yang menakjubkan! Jika anda berminat untuk mengetahui lebih lanjut, anda boleh membaca artikel berikut:

• Tajuk kertas: Ejen Komunikatif untuk Pembangunan Perisian
• Pautan kertas: https://arxiv.org/pdf/29247.07 PDF

• Paper Tajuk: Autogen: Membolehkan aplikasi LLM seterusnya melalui perbualan multi-agen Link: https://arxiv.org/pdf/2308.08155.pdf

paper Tajuk: Metagpt: pengaturcaraan meta untuk rangka kerja kolaborasi multi-agen pautanpaper: https://arxiv.org/pdf/2308.00352.pdf

• more butiran Untuk kandungan, sila baca teks asal.
• Selepas membaca artikel ini, netizen sangat terinspirasi namun, beberapa netizen menegaskan bahawa kestabilan dan kebolehramalan sistem berbilang ejen apabila melakukan tugas yang sama atau serupa perlu dipertimbangkan. Pada pendapat anda, apakah kelebihan dan kekurangan kerjasama pelbagai ejen?