Model AI Lanjutan menjana sehingga 50 kali lebih banyak CO ₂ pelepasan daripada LLM yang lebih biasa ketika menjawab soalan yang sama

Lebih tepat lagi kami cuba membuat fungsi model AI, semakin besar pelepasan karbon mereka menjadi - dengan petunjuk tertentu menjana sehingga 50 kali lebih banyak karbon dioksida daripada yang lain, menurut satu kajian baru -baru ini.

Model penalaran seperti Claude Anthropic, Openai's O3, dan DeepSeek's R1 adalah model bahasa besar (LLMS) yang maju yang memperuntukkan sumber masa tambahan dan pengkomputeran untuk memberikan respons yang lebih tepat berbanding dengan versi terdahulu.

Walau bagaimanapun, walaupun mencapai hasil yang mengagumkan, model -model ini juga menunjukkan batasan yang serius ketika menyelesaikan masalah yang kompleks. Sekarang, para penyelidik telah menemui kelemahan lain - jejak karbon mereka yang besar. Penemuan mereka diterbitkan pada 19 Jun di jurnal Frontiers in Communication .

"Kesan alam sekitar untuk menanyakan LLM terlatih sangat dipengaruhi oleh kaedah penalaran mereka, dengan kaedah penalaran yang jelas meningkatkan penggunaan tenaga dan pelepasan karbon," kata pengarang pengarang Maximilian Dauner , seorang penyelidik di Hochschule München University of Applied Science di Jerman, dalam satu kenyataan . "Kami mendapati bahawa model berasaskan pemikiran yang dipancarkan sehingga 50 kali lebih banyak daripada model yang dioptimumkan untuk jawapan yang lebih pendek."

Apabila bertindak balas terhadap arahan, LLMS memproses bahasa dengan membahagikannya ke dalam token - segmen perkataan yang diubah menjadi urutan berangka sebelum diproses oleh rangkaian saraf. Rangkaian ini ditapis menggunakan data latihan yang menentukan kemungkinan corak tertentu yang terdapat. Berdasarkan kebarangkalian ini, mereka menjana respons.

Untuk meningkatkan ketepatan, model penaakulan menggunakan kaedah yang dikenali sebagai "rantaian-pemikiran." Ini melibatkan memecahkan masalah yang kompleks ke dalam langkah -langkah yang lebih kecil, logik, sama seperti bagaimana manusia dapat menyelesaikan masalah yang sama.

Berkaitan: AI sering 'halusinat,' tetapi ada cara untuk memperbaikinya

Daftar untuk surat berita Harian Sains Live Nownonethan, model -model ini memerlukan lebih banyak tenaga daripada LLM standard, yang berpotensi mewujudkan cabaran ekonomi untuk perniagaan dan pengguna yang ingin melaksanakannya. Walaupun terdapat penyelidikan yang sedia ada mengenai akibat alam sekitar untuk memperluaskan penggunaan AI, perbandingan langsung dari jejak karbon di kalangan model yang berbeza tetap terhad.

Kos pemikiran

Untuk menilai pelepasan CO₂ dari pelbagai model, para penyelidik di sebalik kajian baru ini menimbulkan 1,000 soalan dalam pelbagai topik hingga 14 llms. Model -model ini bervariasi dari 7 bilion hingga 72 bilion parameter.

Pengiraan ini dijalankan menggunakan kerangka Perun - yang menilai prestasi LLM dan penggunaan kuasa - pada GPU NVIDIA A100. Pasukan kemudian menerjemahkan penggunaan tenaga ke dalam pelepasan CO₂, dengan mengandaikan setiap kilowatt-jam menghasilkan 480 gram Co₂ .

Penemuan mereka menunjukkan bahawa model penalaran yang dihasilkan, secara purata, 543.5 token setiap soalan, berbanding hanya 37.7 token untuk model ringkas. Tanda -tanda tambahan ini bermakna peningkatan beban kerja pengiraan, menghasilkan pelepasan CO₂ yang lebih tinggi untuk model penalaran yang lebih tepat.

Model yang paling tepat ialah model 72 bilion parameter Cogito, yang menjawab 84.9% daripada soalan penanda aras dengan betul. Walau bagaimanapun, Cogito dipancarkan tiga kali lebih banyak daripada model bersaiz yang sama yang direka untuk menghasilkan jawapan yang lebih pendek.

"Pada masa ini, kita melihat perdagangan yang berbeza antara ketepatan dan kemampanan dalam teknologi LLM," kata Dauner. "Tiada model yang mengekalkan pelepasan di bawah 500 gram bersamaan CO₂ [jumlah gas rumah hijau yang dikeluarkan] berjaya mencapai ketepatan lebih daripada 80% dalam menjawab 1,000 soalan dengan betul."

Atas ialah kandungan terperinci Model AI Lanjutan menjana sehingga 50 kali lebih banyak CO ₂ pelepasan daripada LLM yang lebih biasa ketika menjawab soalan yang sama. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!