Le 4 novembre, la deuxième conférence technologique OpenHarmony de la Fondation Open Atom Open Source s'est tenue avec succès à Pékin. Dans le sous-forum sur l'intelligence native du système d'exploitation organisé dans l'après-midi, Jin Xuefeng, l'architecte en chef de Huawei Shengsi MindSpore, a été le producteur, et Wang Lei, l'architecte de la plate-forme de développement d'applications d'IA à grand modèle de Huawei, a servi de modérateur. de Huawei, Chinasoft International Co., Ltd., Shenzhen Ruoxin Des dirigeants technologiques du monde de l'entreprise tels que Technology Co., Ltd. et des experts universitaires et universitaires de l'Université Tsinghua, de l'Université Jiao Tong de Shanghai, etc. ont partagé comment leurs domaines respectifs combinaient l'IA. les grandes technologies liées aux modèles dans l'écosystème OpenHarmony pour innover et résoudre les problèmes techniques, et ont discuté conjointement de l'avenir de l'IA. La tendance du développement technologique consistant à combiner de grands modèles avec des systèmes d'exploitation de terminaux contribue à la construction conjointe d'un écosystème OpenHarmony prospère.
Jin Xuefeng est l'architecte en chef de Huawei MindSpore
Modérateur : Wang Lei, architecte de la plateforme de développement d'applications à grand modèle Huawei AI
Tout d'abord, Li Yuanchun, chercheur adjoint de l'Université Tsinghua, a présenté un rapport sur le thème « Agent intelligent de terminal piloté par grand modèle », a présenté la conception et la mise en œuvre d'un système d'agent personnel intelligent piloté par grand modèle et a expliqué comment l'utiliser. mobile L'analyse automatique des applications et l'intégration des connaissances du grand modèle combinent de manière organique la connaissance du domaine au sein de l'application avec la connaissance de bon sens du grand modèle pour obtenir une automatisation des tâches plus précise et plus efficace. Li Yuanchun a souligné que les agents personnels intelligents ont toujours été l'une des technologies clés auxquelles les chercheurs et les développeurs de systèmes de terminaux prêtent attention. Cependant, en raison de capacités insuffisantes telles que la compréhension des intentions de l'utilisateur, la planification des tâches et l'utilisation des outils, l'intelligence et l'évolutivité actuelles. Le nombre d’agents personnels intelligents est limité. Il existe encore des défauts majeurs. L'émergence de grands modèles de langage a résolu ces difficultés. Li Yuanchun a déclaré : « L'émergence de grands modèles représentés par de grands modèles de langage a apporté de nouvelles opportunités au développement du domaine. Elle devrait grandement améliorer le développement du domaine grâce à de puissants modèles de langage. compréhension sémantique et capacités de raisonnement de bon sens. Améliorez l’étendue et la profondeur des capacités de support intelligent des agents personnels.
Zhang Zhaosheng est le directeur général du département de gestion R&D des produits Intelligent IoT Legion de ChinaSoft International Co., Ltd., et est également membre du comité de pilotage technique du groupe de projet OpenHarmony. Sur la base de ses connaissances approfondies dans le domaine des grands modèles et de la collaboration à la périphérie des appareils, il a rédigé un rapport intitulé « Visual Large Models in OpenHarmony's Device-Edge-Cloud Application ». Il a souligné qu'à l'ère de l'intelligence, avec l'amélioration continue des grands modèles et des technologies de puissance de calcul sous-jacentes, le déploiement de grands modèles à la périphérie et sur les terminaux est devenu une tendance inévitable. Il a hautement affirmé la valeur et l'importance d'OpenHarmony en tant que base numérique : « En tant que base technique à l'ère de l'Internet de tout, OpenHarmony peut être largement utilisé dans une variété de scénarios informatiques, répondant aux besoins commerciaux de connexions multiples, de haute réalité. temps et des données hétérogènes massives. Il est temps d'exploiter la puissance de calcul matérielle vers le bas et de permettre des applications massives vers le haut. « Selon Zhang Zhaosheng, l'intégration de capacités de grands modèles de pointe et la création de scénarios commerciaux collaboratifs de pointe basés sur OpenHarmony peuvent fournir des innovations plus compétitives pour les entreprises. l’industrie. Des solutions pour accélérer l’expansion de l’écosystème
L'architecte de Huawei Xiaoyi, Zhou Jianhui, a présenté un rapport thématique sur « Exploration de la construction écologique d'un grand modèle intelligent natif côté terminal basé sur un cadre d'intention » basé sur la réflexion sur la technologie de service intelligent de Huawei Xiaoyi dans les produits terminaux. Ce rapport mentionne que le cadre d'intention est un système standard d'intention au niveau du système qui construit un paradigme d'intention global grâce à une perception multidimensionnelle du système, de grands modèles et d'autres capacités pour parvenir à une compréhension des intentions explicites et potentielles des utilisateurs, et identifier en temps opportun et avec précision. besoins des utilisateurs. Transmettez-le aux partenaires écologiques, associez des services opportuns et offrez aux utilisateurs des expériences de scène avancées multimodales et personnalisées.
Zheng Wenli, professeur agrégé du Département d'informatique et d'ingénierie de l'Université Jiao Tong de Shanghai, s'est concentré sur les méthodes d'apprentissage automatique et a présenté un rapport sur la « Segmentation dynamique des réseaux de neurones profonds dans l'inférence collaborative Device-Edge-Cloud ». Dans l'environnement cloud à la pointe des appareils, afin de s'adapter aux changements dynamiques de la charge du réseau et de la charge du serveur, le professeur Zheng Wenli a proposé un algorithme d'optimisation de segmentation DNN basé sur l'apprentissage automatique et l'a implémenté sur Shengsi MindSpore, afin qu'il puisse exécuter une variété de CNN commun, RNN ajuste automatiquement leur distribution entre les extrémités, la périphérie/le cloud pour maintenir la latence d'inférence la plus faible. Dans le même temps, il a également souligné que « les limites des ressources constituent le principal défi auquel est confrontée l'informatique de pointe. Ce n'est qu'en essayant de dépasser les limites des ressources que nous pourrons maximiser les avantages de la périphérie et faire en sorte que l'intelligence entre véritablement dans la vie de chacun
».
Zheng Wenli, professeur agrégé du Département d'informatique et d'ingénierie de l'Université Jiao Tong de Shanghai a partagé le sujet
Hou Lu, chercheur au laboratoire Noah's Ark de Huawei, a partagé sur place un rapport intitulé « Accélération de la compression et déploiement efficace de grands modèles de langage ». Ce rapport présente les défis de mémoire, d'accès à la mémoire et de calcul auxquels sont confrontés les grands modèles de langage dans la phase d'inférence sous des aspects tels que la conception architecturale, le coût, le débit, la latence, les longues séquences, etc., et discute de la compression et de la fusion du modèle et de la quantification KVcache de grands opérateurs. et les avantages apportés par le raisonnement spéculatif dans le raisonnement efficace de grands modèles de langage
Hou Lu, chercheur au laboratoire Arche de Noé de Huawei, a partagé le sujet
Zhou Peng, CTO de Shenzhen Ruoxin Technology Co., Ltd., a prononcé un discours sur « L'intelligence omniprésente : applications et solutions de modèles inspirés du cerveau à grande échelle sur les appareils » et a présenté aux participants la puissance de calcul des grands modèles de langage. Problèmes de surcharge et comment améliorer l'architecture du Transformer en utilisant une méthode de traitement des informations semblable à celle du cerveau humain. En utilisant le réseau neuronal de troisième génération SNN pour construire un réseau neuronal, les données du réseau sont stockées et transmises à l'aide de séquences d'impulsions, ce qui réduit considérablement la surcharge d'inférence sans affecter l'intelligence du réseau. Zhou Peng a déclaré : « Le grand modèle formé à l'aide de cette technologie atteint non seulement les exigences optimales en matière de consommation d'énergie, de délai et de puissance de calcul au même niveau de paramètres, mais a également la capacité d'être déployé et exécuté localement sur des appareils grand public. "
Partage de thème par Zhou Peng, CTO de Shenzhen Ruoxin Technology Co., Ltd.
Li Zheng, l'architecte de Huawei Shengsi MindSpore, a partagé le rapport « Le déploiement de grands modèles côté client MindSpore aide à l'intelligence du système d'exploitation » basé sur l'exploration technique et l'expérience pratique du framework MindSpore. Il a expliqué comment résoudre les défis de déploiement et d’application des grands modèles d’IA. Li Zheng a mentionné : « Les grands modèles d'IA générative changent discrètement le travail et la vie des gens. La combinaison de grands modèles d'IA et de terminaux intelligents mènera inévitablement à de nouvelles expériences. Cependant, en raison de la puissance de calcul et des contraintes de stockage des terminaux, l'IA Le déploiement côté grand modèle est confronté à de nombreux défis. En tant que framework d'IA open source intégrant une formation et une promotion cloud-edge et de scénarios complets, MindSpore est profondément impliqué dans l'optimisation des performances des scénarios commerciaux intelligents HarmonyOSAI. Il a été largement utilisé dans les téléphones mobiles, tablettes, montres, ordinateurs portables, écrans intelligents, voitures intelligentes et autres produits terminaux Huawei
L'architecte Li Zheng de Huawei Shengsi MindSpore a partagé le thème
Lors de la dernière session du sous-forum sur l'intelligence native du système d'exploitation, l'hôte du forum Wang Lei, architecte de la plate-forme de développement d'applications à grand modèle de Huawei AI, Jin Xuefeng, architecte en chef de Huawei Shengsi MindSpore, le producteur, et les intervenants ont prononcé un discours sur le thème « Grands modèles et applications côté appareil ». La table ronde sur les « Défis de la frontière technologique et idées de solutions » a discuté en profondeur des concepts et idées techniques de l'architecture et du cadre d'application d'IA, du cadre de formation de modèles, de l'architecture de modèle et de l'algorithme sous l'intelligence native du système d'exploitation. .
Table ronde « Défis de la frontière technologique et idées de solutions pour les grands modèles et applications de bout en bout »
Jusqu'à présent, le sous-forum sur l'intelligence native du système d'exploitation de la deuxième conférence technologique OpenHarmony s'est conclu avec succès. Le partage par des experts techniques et des leaders de l'industrie a démontré le potentiel technique et la pratique d'application d'OpenHarmony dans le domaine de l'intelligence native. Il a également prédit que l'intégration profonde des grands modèles d'IA et des terminaux d'exploitation entraînerait sûrement l'expansion des capacités des grands modèles et de leur développement. développement d’équipements terminaux. Une perspective intelligente « gagnant-gagnant ». À mesure que de plus en plus d’experts techniques et d’élites industrielles dans le domaine de l’intelligence native rejoignent la communauté OpenHarmony, l’écosystème OpenHarmony va sûrement prospérer. Nous attendons avec impatience que davantage de partenaires se joignent à la construction conjointe de la technologie et de l'écologie OpenHarmony et travaillent ensemble pour « construire l'écologie avec la technologie et gagner l'avenir avec l'intelligence ».
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!
![[Web front-end] Démarrage rapide de Node.js](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
