MediaTek Dimensity 9300 : leader du secteur, prenant en charge le plus grand modèle de langage d'IA à 33 milliards de paramètres

La dernière version de la puce mobile d'IA générative 5G de MediaTek, Dimensity 9300, a été publiée. Sa nouvelle conception d'architecture complète et son APU de processeur d'IA de nouvelle génération ainsi que la technologie de pointe unique de MediaTek offrent des performances puissantes pour la prise en charge des applications d'IA générative. les utilisateurs de profiter d’une expérience d’IA générative riche et colorée. En outre, MediaTek a également renforcé sa coopération avec un grand nombre d'entreprises du secteur de l'IA pour créer un riche écosystème d'IA du côté mobile.

Le nouveau processeur d'IA de septième génération APU 790, né pour l'IA générative

Alors que la demande des utilisateurs pour les applications d’intelligence artificielle générative continue de croître, la commodité et la sécurité de l’intelligence artificielle générative finale se révèlent également. Bien entendu, pour déployer un modèle de langage d'intelligence artificielle à grande échelle côté client, cela nécessite la prise en charge de puissantes capacités informatiques d'intelligence artificielle

Dimensity 9300 est équipé du processeur d'IA de septième génération APU 790 de MediaTek, conçu pour l'IA générative. Il dispose d'un moteur d'IA générative au niveau matériel, qui peut réaliser des calculs d'IA de pointe plus rapides et plus sûrs, et est profondément adapté au modèle Transformer. pour le fonctionnement de l'opérateur Accélération, 8 fois plus rapide que la génération précédente.

Dans le même temps, les performances et l'efficacité énergétique de l'APU 790 ont été considérablement améliorées. Les capacités de fonctionnement en nombres entiers et en virgule flottante ont été augmentées jusqu'à 2 fois celles de la génération précédente Zurich ETHZv5.1 AI-Benchmark Mobile Soc a obtenu un score de 2109. points Les performances de l'IA ont dominé avec succès la liste et la consommation d'énergie a été améliorée de 45 %. Grâce aux puissantes performances de l'IA, les images peuvent être générées en moins d'une seconde. La puissante puissance de calcul de l'IA du Dimensity 9300, l'architecture innovante du processeur complet et le GPU Immortalis-G720 ont jeté une base de performances solide pour exécuter l'IA générative sur l'appareil.

Dans le même temps, sur la base des caractéristiques de grands modèles de langage comportant des milliards de paramètres, MediaTek a développé une technologie de quantification INT4 à précision mixte, combinée à la technologie unique de compression matérielle de mémoire de MediaTek, NeuroPilot Compression, qui peut utiliser plus efficacement la bande passante mémoire et réduire considérablement la mémoire du terminal occupée par les grands modèles d'IA. Elle brise les limitations de mémoire des téléphones mobiles pour exécuter de grands modèles de langage d'IA du côté de l'appareil et permet d'implémenter des modèles de paramètres plus grands du côté de l'appareil.

Sur la base de ce qui précède, Dimensity 9300 est le premier à implémenter un modèle de grand langage d'IA de 7 milliards de paramètres sur le téléphone mobile phare de vivo, avec une vitesse de traitement allant jusqu'à 20 jetons par seconde. De plus, MediaTek a dépassé les limites de l'industrie et a réussi à exécuter un grand modèle de langage avec 13 milliards de paramètres côté appareil avec vivo. Même Dimensity 9300 a pris les devants en exécutant avec succès un grand modèle de langage d'IA avec 33 milliards de paramètres sur une puce mobile, leader du secteur.

Dimensity 9300 prend également en charge les grands modèles d'IA générative multimodale, créant des expériences finales riches et intéressantes telles que « Wen Sheng Poems », « Wen Sheng Pictures » et « Wen Sheng Interesting Pictures ».

On peut constater que la puissance de calcul de l'IA et les capacités d'IA générative finale du Dimensity 9300 ont dominé l'industrie, ce qui est suffisant pour permettre aux utilisateurs de libérer leur créativité en matière d'IA à tout moment et en tout lieu.

Les compétences finales du modèle d'IA générative ont été étendues, apportant une expérience d'IA générative complète et riche

Différent des solutions d'IA générative basées sur le cloud, en raison des différences dans les environnements matériels, le déploiement de l'IA générative finale nécessite également la prise en compte de facteurs tels que la mémoire du téléphone mobile, la capacité de stockage et la limite de charge. Par conséquent, MediaTek a pris les devants en proposant des solutions avancées

APU 790 prend en charge la technologie d'expansion des compétences de fin de modèle d'IA générative NeuroPilot Fusion. Cette technologie peut effectuer en continu une fusion d'adaptation de bas rang (LoRA) du côté de l'appareil. Sur la base du grand modèle de base, grâce à la formation dans le cloud, elle peut réaliser la fusion de N fonctions, donnant ainsi au grand modèle de base une génération plus complète et plus riche. Tapez les capacités des applications IA

Par exemple, grâce à la fonction « Animation GIF d'image » développée sur la base de la technologie d'expansion des compétences finales du modèle IA, les utilisateurs peuvent modifier différents styles et expressions en fonction d'une photo pour créer un package d'émoticônes personnalisé unique et devenir instantanément une icône d'émoticône.

La plateforme de développement d'IA NeuroPilot accélère la mise en page écologique de l'IA générative de bout en bout

L'APU 790 de Dimensity 9300 amène la vitesse et l'étendue de l'IA générative de bout en bout à un tout nouveau niveau grâce à une puissante puissance de calcul d'IA et une technologie avancée de compression matérielle de mémoire, ainsi qu'à l'expansion des compétences de bout en bout du modèle d'IA et à d'autres technologies. Dans le même temps, MediaTek a construit un riche écosystème d'IA avec sa plateforme de développement d'IA NeuroPilot, du matériel sous-jacent à la chaîne d'outils, en passant par le centre de modèles et l'écosystème de développement, aidant l'écosystème à déployer rapidement et efficacement des applications d'IA génératives finales et à accélérer leur déploiement sur la fin et la popularité

NeuroPilot est une plate-forme de développement d'IA qui peut prendre en charge les principaux grands modèles d'IA tels qu'Android, Meta LIama 2, Baidu Wenxin Yiyan Large Model et Baichuan Intelligent Baichuan Large Model

Un autre avantage important de NeuroPilot est sa chaîne d'outils avancés, qui comprend la fusion adaptative de bas rang NeuroPilot Compression, l'accélération du décodage spéculatif et la technologie d'optimisation et de transformation de modèles, qui sont très complètes

Le Dimensity Developer Center de MediaTek fournit également des ressources de développement uniques pour la mise en œuvre de l'IA générative de bout en bout et partage des cas de déploiement de modèles de bout en bout pour améliorer l'efficacité du développement. À l'heure actuelle, plus de 20 partenaires en IA générative ont rejoint la co-construction écologique

MediaTek travaille également avec des partenaires contractuels de l'industrie pour créer de merveilleuses expériences d'application d'IA générative. La technologie de super-résolution d'IA générative d'ArcSoft est basée sur les capacités de calcul de pointe de l'APU Dimensity 9300, qui peuvent améliorer les performances de 30 % par rapport à la génération précédente. Lors de la prise de vue avec un grossissement de 25x, la technologie générative de super-résolution d'IA peut être utilisée pour capturer des images avec des détails plus réalistes.

La technologie de recherche sémantique d'IA générative de Jigan Technology est également basée sur les capacités informatiques de pointe de l'APU Dimensity 9300. Par rapport à la génération précédente, les performances peuvent être améliorées de 260 %. Par exemple, si vous recherchez une photo dans l'album photo de votre téléphone portable et décrivez le contenu de la photo, vous pouvez rechercher avec précision la photo correspondante en quelques millisecondes. De plus, vous pouvez effectuer une recherche même lorsque Internet est déconnecté et votre vie privée ne sera pas divulguée.

La technologie de génération d'avatars numériques en temps réel de Morpho pour les appels vidéo utilise la puissance de calcul de pointe de l'APU Dimensity 9300 pour améliorer les performances de 26 % par rapport à la génération précédente. Les générateurs de portraits virtuels généraux nécessitent une sélection manuelle des styles d’apparence, ce qui prend du temps. Cependant, grâce à la technologie de génération d'avatar numérique en temps réel pour les appels vidéo, les utilisateurs peuvent opérer facilement. Il leur suffit d'allumer l'appareil photo et de prendre une photo pour générer instantanément un avatar numérique

La technologie anti-éblouissement générative d'IA de Huili peut améliorer les performances de 60 % avec la prise en charge de l'informatique de pointe basée sur l'APU Dimensity 9300. Lorsque vous utilisez cette technologie, que vous filmiez à l'intérieur ou à l'extérieur, il vous suffit de diminuer légèrement la lumière pour éliminer les interférences d'éblouissement

On peut constater que dans le cadre de la tendance de l'intégration des terminaux IA et du cloud, Dimensity 9300 a démontré des avantages complets en termes de puissance de calcul de l'IA, d'expérience utilisateur de l'IA générative et d'écologie, établissant une nouvelle norme pour la nouvelle génération d'expérience d'IA générative côté appareil phare. La référence en matière d’IA générative puissante est Dimensity.

Dans le même temps, les pionniers de l'IA générative dirigés par MediaTek promeuvent vigoureusement le développement de l'informatique hybride par l'innovation technologique continue et l'aménagement écologique, en lançant une voie unique et efficace pour le déploiement final de l'IA générative et en mettant tout en œuvre pour générer. L'IA côté appareil pour permettre à davantage d'utilisateurs de profiter de l'expérience personnalisée de l'IA côté appareil, de créer une nouvelle expérience intelligente tous scénarios et de faire bénéficier pleinement le public des avantages de la technologie.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!