Maison > Tutoriel matériel > Actualités matérielles > Les processeurs AMD Ryzen AI et les GPU Radeon RX 7000 prennent désormais en charge l'exécution native des chatbots LLM et AI

Les processeurs AMD Ryzen AI et les GPU Radeon RX 7000 prennent désormais en charge l'exécution native des chatbots LLM et AI

WBOY
Libérer: 2024-03-08 08:30:12
avant
481 Les gens l'ont consulté

Selon les informations de ce site du 7 mars, AMD a annoncé aujourd'hui que les utilisateurs peuvent exécuter localement des modèles de langage étendus (LLM) basés sur GPT pour créer des chatbots IA exclusifs.

AMD indique que les utilisateurs peuvent exécuter des chatbots LLM et IA de manière native sur des appareils, notamment les APU Ryzen 7000 et Ryzen 8000 alimentés par le nouveau XDNA NPU d'AMD, ainsi que les appareils GPU Radeon RX 7000 avec cœurs d'accélération IA intégrés.

AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现支持本地运行 LLM 和 AI 聊天机器人

AMD a détaillé les étapes en cours dans l'annonce, telles que l'exécution de Mistral avec 7 milliards de paramètres, la recherche et le téléchargement de "TheBloke/OpenHermes-2.5-Mistral-7B-GGUF" si vous exécutez LLAMA v2 avec 7 milliards de paramètres ; , recherchez et téléchargez « TheBloke/Llama-2-7B-Chat-GGUF ».

AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现支持本地运行 LLM 和 AI 聊天机器人

AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现支持本地运行 LLM 和 AI 聊天机器人

AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现支持本地运行 LLM 和 AI 聊天机器人

AMD n'est pas la première entreprise à faire cela, NVIDIA a également récemment lancé "Chat with RTX", qui est pris en charge par les GPU GeForce RTX 40 et RTX 30 series Chatbot d'intelligence artificielle. Il est accéléré grâce à l'ensemble de fonctionnalités TensorRT-LLM pour fournir des résultats d'IA générés rapidement basés sur des ensembles de données localisés.

L'adresse originale de l'annonce est jointe à ce site Web. Les utilisateurs intéressés peuvent la visiter et la lire.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Étiquettes associées:
source:ithome.com
Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn
Tutoriels populaires
Plus>
Derniers téléchargements
Plus>
effets Web
Code source du site Web
Matériel du site Web
Modèle frontal