Rumah > Tutorial Perkakasan > Berita Perkakasan > CPU AMD Ryzen AI dan GPU Radeon RX 7000 kini menyokong penggunaan chatbot LLM dan AI secara asli

CPU AMD Ryzen AI dan GPU Radeon RX 7000 kini menyokong penggunaan chatbot LLM dan AI secara asli

WBOY
Lepaskan: 2024-03-08 08:30:12
ke hadapan
484 orang telah melayarinya

Menurut berita dari laman web ini pada 7 Mac, AMD hari ini mengumumkan bahawa pengguna boleh menjalankan model bahasa besar (LLM) berasaskan GPT secara tempatan untuk membina chatbot AI eksklusif.

AMD berkata pengguna boleh menjalankan chatbot LLM dan AI secara asli pada peranti termasuk APU siri Ryzen 7000 dan Ryzen 8000 yang dikuasakan oleh NPU XDNA baharu AMD, serta peranti GPU siri Radeon RX 7000 dengan teras pecutan AI terbina dalam.

AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现支持本地运行 LLM 和 AI 聊天机器人

AMD memperincikan langkah larian dalam pengumuman, seperti menjalankan Mistral dengan 7 bilion parameter, cari dan muat turun "TheBloke/OpenHermes-2.5-Mistral-7B-GGUF" jika menjalankan LLAMA v2 dengan 7 bilion parameter , cari dan muat turun "TheBloke/Llama-2-7B-Chat-GGUF".

AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现支持本地运行 LLM 和 AI 聊天机器人

AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现支持本地运行 LLM 和 AI 聊天机器人

AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现支持本地运行 LLM 和 AI 聊天机器人

AMD bukan syarikat pertama yang melakukan perkara ini, NVIDIA juga baru-baru ini melancarkan "Sembang dengan RTX", yang disokong oleh GeForce RTX 40 dan RTX 30 siri GPU bot Sembang kecerdasan buatan. Ia dipercepatkan dengan set ciri TensorRT-LLM untuk menyampaikan hasil AI yang dijana dengan pantas berdasarkan set data setempat.

Alamat asal pengumuman dilampirkan pada laman web ini. Pengguna yang berminat boleh melawat dan membacanya. 🎜

Atas ialah kandungan terperinci CPU AMD Ryzen AI dan GPU Radeon RX 7000 kini menyokong penggunaan chatbot LLM dan AI secara asli. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!

Label berkaitan:
sumber:ithome.com
Kenyataan Laman Web ini
Kandungan artikel ini disumbangkan secara sukarela oleh netizen, dan hak cipta adalah milik pengarang asal. Laman web ini tidak memikul tanggungjawab undang-undang yang sepadan. Jika anda menemui sebarang kandungan yang disyaki plagiarisme atau pelanggaran, sila hubungi admin@php.cn
Tutorial Popular
Lagi>
Muat turun terkini
Lagi>
kesan web
Kod sumber laman web
Bahan laman web
Templat hujung hadapan