Prend en charge le dialogue chinois ! NOUVEAU NVIDIA ChatRTX mis à jour

Dès février, NVIDIA a lancé le chatbot ChatwithRTX basé sur LLM. En mai, le chatbot a été mis à jour, ajoutant de nouveaux modèles et de nouvelles fonctions, le package a également été réduit de 35G à 11G et le logiciel a été officiellement renommé ChatRTX.

Dans l'article et la vidéo précédents sur Chatwith RTX, nous avons mentionné que ChatwithRTX n'a ​​pas de réponse chinoise intégrée. Si vous souhaitez implémenter des réponses chinoises, vous devez installer votre propre environnement, de grands modèles linguistiques, etc. Mais cette étape a un seuil relativement élevé pour les utilisateurs, et ils doivent passer par de nombreuses étapes compliquées pour obtenir des questions et réponses en chinois.

Avant l'introduction, parlons brièvement de ce qu'est ChatRTX. ChatRTX utilise la technologie RAG et est accéléré par NVIDIATensorRT-LLM et NVIDIARTX pour apporter des fonctions de chatbot aux RTXWindowsPC et postes de travail. Par conséquent, la condition préalable pour utiliser ChatRTX est que vous devez disposer d'une carte graphique de la série RTX30 ou RTX40 avec 8 Go de mémoire vidéo ou plus.

La principale caractéristique de ChatRTX est qu'il s'exécute localement Contrairement à divers chatbots IA téléchargés sur le cloud, l'informatique locale est plus sécurisée en termes de stockage de données, et grâce à la bénédiction de NVIDIATensorRT-LLM, le traitement l'est également. Cette méthode est plus rapide et évite la situation dans laquelle il faut beaucoup de temps pour charger les résultats de la question d'entrée, puis retenir une réponse.

En plus du modèle Gemma original, cette mise à jour ChatRTX étend également un modèle ChatGLM3 qui prend en charge les bilingues chinois et anglais, il est donc plus pratique à utiliser et n'a pas besoin d'installer l'environnement comme la version précédente. La mise à jour facilite également son utilisation par un plus grand nombre d'utilisateurs et le dialogue chinois est également fluide. Après avoir importé le document, vous pouvez rapidement récupérer les informations de contenu dont vous avez besoin dans le dossier et les présenter à l'utilisateur.

En plus du nouveau grand modèle de langage, cette fois, ChatRTX a également ajouté la fonction de récupération de mots d'invite d'image. Après avoir importé un dossier contenant des images, ChatRTX peut extraire les mots-clés de l'image via OpenAICLIP, afin que vous puissiez saisir le. mots-clés de l'image, tels que l'escalade, et ChatRTX vous fournira des images sur l'escalade dans le dossier. On peut dire que cela facilite grandement la recherche d'images locales. Même si vous oubliez, vous pouvez les rechercher par mot-clé. recherche.

De plus, ChatRTX a également ajouté une fonction de reconnaissance vocale, qui peut reconnaître la parole dans les 30 secondes et la saisir dans la boîte de dialogue, y compris la reconnaissance du chinois et de l'anglais. Que ce soit pour libérer vos mains au travail ou pour. développez les fonctions plus tard, la reconnaissance vocale est bénéfique pour les utilisateurs, mais le problème de la version précédente existe toujours, c'est-à-dire que ChatRTX ne peut pas se connecter au contexte, c'est-à-dire qu'à chaque fois qu'une question est posée, il effacera la mémoire et chaque question ne peut être qu'une question « ponctuelle ».

Cependant, je pense que ChatRTX continuera à être mis à jour à l'avenir et deviendra un robot de discussion et de récupération de fichiers localisé avec un retour rapide. Cependant, le principe de tout cela est que vous devez disposer d'une carte graphique NVIDIARTX série 30. Comme le dit le proverbe, achetez-en une nouvelle, n'achetez pas d'ancienne, GALAXY RTX4070 SUPER Metal Master OC, cette nouvelle carte graphique de la série RTX40 SUPER, est votre meilleur choix.

GALAXY RTX4070 SUPER Metal Master OC adopte l'architecture NVIDIA Ada Lovelace, offre des performances puissantes et 12 Go de capacité de mémoire vidéo, qui peuvent facilement répondre aux besoins matériels de LLM, qu'il s'agisse de jeux ou d'IA, GALAXY RTX4070 SUPER Metal Master. OC est Je suis compétent, donc les amis qui l'aiment sont invités à se rendre dans la boutique officielle GALAXY pour sélectionner et acheter ~

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!