Chen Xiaojian : Cinq facteurs clés pour construire l'universalisation de l'IA générative d'Amazon Cloud Technology

M. Chen Xiaojian, directeur général du département produits Amazon Cloud Technology pour la Grande Chine

Dans l'actuelle « Bataille des 100 modèles », l'intelligence artificielle générative, représentée par les grands modèles, devient rapidement le leader du développement de l'intelligence artificielle à une vitesse sans précédent. Cependant, l’IA générative ne se limite pas aux grands modèles. Fin octobre, Amazon Cloud Technology a organisé une conférence des constructeurs d'intelligence artificielle générative. Chen Xiaojian, directeur général du département des produits de la Grande Chine d'Amazon Cloud Technology, s'est exprimé sur le thème « Autonomiser la nouvelle ère de l'intelligence artificielle générative et aider les données et l'intelligence artificielle. L'intelligence profite à tout le monde. des bases de données sont également nécessaires au fond de l'iceberg, des services d'analyse et de sécurité des données et d'autres services de support au-delà du modèle de base. Alors, quels types d’améliorations opérationnelles et de services l’intelligence artificielle générative peut-elle apporter aux entreprises innovantes ? Quelle contribution la technologie Amazon Cloud peut-elle apporter dans le domaine de l’intelligence artificielle générative ? Nous avons déjà la réponse lors de cette conférence des constructeurs d'intelligence artificielle générative qui rassemble l'amont et l'aval de l'industrie

Cette conférence comporte trois sous-lieux majeurs, abordant respectivement des sujets d'actualité dans le domaine de l'IA générative tels que la base d'applications, la stratégie de données et l'IA native. Dans le même temps, afin d'aider davantage de développeurs à découvrir le charme du développement à l'ère de l'IA générative, la conférence a également mis en place un forum de développeurs et un camp de formation en puissance. Ces activités sont conçues pour fournir aux développeurs des conseils et un soutien pratiques, et peuvent les aider à mieux comprendre et appliquer la technologie d’IA générative. En outre, des clients représentatifs de l'innovation générative d'Amazon Cloud Technology, tels que le groupe Siemens, Kingsoft Office Software et Covestro China, ont également partagé leurs cas d'innovation lors de cette conférence, offrant ainsi une expérience et une inspiration précieuses aux participants.

En tant qu'organisateur de la conférence, Amazon Cloud Technology se concentre actuellement sur cinq domaines clés, notamment les scénarios d'application, les outils et l'infrastructure, la fondation de données, la construction d'applications natives d'IA et les services d'IA générative pour aider les entreprises et les développeurs à explorer pleinement le potentiel de l'IA générative. Le PDG d'Amazon, Andy Jassy, ​​a déclaré un jour : « Notre objectif est de permettre à chacun d'obtenir la même infrastructure avancée et le même coût que les grandes entreprises pour réaliser leur propre innovation. » Actuellement, la technologie Amazon Cloud fournit une générative complète de bout en bout. la pile technologique comprend la couche d'accélération inférieure telle que les puces d'accélération et l'optimisation du stockage, les outils et services de création de modèles de couche intermédiaire et la couche supérieure d'applications génératives liées à l'IA. L'innovation se poursuit à tous les niveaux pour répondre aux différents besoins des clients. Amazon Cloud Technology espère populariser la technologie d'IA générative via des produits et services associés, et fournir une assistance à davantage d'entreprises et de développeurs individuels pour accélérer l'innovation

Sur la question de savoir comment réaliser l'universalisation de l'IA générative, Chen Xiaojian a expliqué en détail les cinq facteurs clés sur lesquels se concentre la technologie Amazon Cloud.

Tout d'abord, choisissez le scénario d'application approprié et commencez par des scénarios typiques pour innover dans le modèle économique. Chen Xiaojian estime que l'amélioration de l'expérience client, l'amélioration de la productivité et de la créativité des employés et l'optimisation des processus métier sont les trois principaux aspects de la valeur commerciale que les scénarios d'application apportent aux entreprises. Au cours de son discours, il a cité le rapport Generative AI Productivity Frontier Technology publié par McKinsey Consulting en juin 2023. Le rapport a souligné qu'environ les 3/4 des avantages économiques apportés par la technologie de l'IA générative proviennent du marketing et des ventes, des produits et de la R&D. quatre fonctions principales : l'ingénierie logicielle et les opérations client, qui sont précisément la force principale de l'orientation des applications d'IA générative. À cette fin, Salesforce a intégré Amazon Bedrock et Amazon Titan dans ses produits d'IA générative, permettant aux clients d'utiliser facilement et en toute sécurité leurs données sur Salesforce Data Cloud pour créer des applications d'IA générative.

À titre d'étude de cas, le Haier Innovation Design Center a utilisé l'IA générative pour améliorer l'efficacité sous quatre aspects : les dessins graphiques, les dessins générés par des graphiques, les dessins quantitatifs et les dessins de scènes complètes. Après la mise en ligne, l'application du système de conception automatisé a raccourci l'opération. cycle des activités liées de 20 %. Dans le même temps, Mutong Technology, une entreprise leader dans le domaine du jeu national, utilise également Amazon Bedrock pour optimiser les processus commerciaux liés au développement de jeux.

Réécrit comme suit : Deuxièmement, en tirant parti des outils et de l’infrastructure d’IA générative spécialement conçus, des applications d’IA générative rentables peuvent être rapidement créées. Dans ce domaine, le service Amazon Bedrock fourni par Amazon Cloud Technology est associé à Amazon SageMaker Jumpstart pour aider les clients ayant des besoins différents en matière de modèles de base à choisir facilement et en toute sécurité le modèle de base qui leur convient. Actuellement, Amazon Bedrock propose une large gamme de modèles de base parmi lesquels choisir, y compris des fournisseurs tiers de premier plan tels que Meta, Anthropic, Cohere, AI21 Labs et Stability AI, ainsi que la famille de modèles Amazon Titan développée par Amazon Cloud Technology. À l'aide d'Amazon Bedrock Agent, un agent géré qui ne nécessite aucun codage, vous pouvez automatiquement décomposer et orchestrer les tâches, vous connecter aux sources de données pertinentes via des API et vous connecter à Amazon Lambda sur le backend pour exécuter des tâches. De plus, Amazon SageMaker JumpStart peut accéder à davantage de modèles open source issus de l'industrie et du monde universitaire, et fournit un environnement et des capacités d'évaluation profondément personnalisés

Amazon Cloud Technology propose une large gamme de solutions de formation hautes performances et peu coûteuses, très flexibles et rentables. Par exemple, l'instance Amazon EC2 P5 d'Amazon Cloud Technology est équipée de la dernière puce GPU Intex H100 Tensor Core, qui est 6 fois plus rapide que la génération précédente et réduit les coûts de formation de 40 %. De plus, les instances Amazon EC2 Inf2 d'Amazon Cloud Technology utilisent la puce d'inférence d'apprentissage automatique auto-développée d'Amazon Cloud Technology, Amazon Inferentia2, qui est 40 % plus rentable que d'autres instances EC2 similaires. De même, l'instance Amazon EC2 Trn1 d'Amazon Cloud Technology utilise Amazon Trainium, la puce de formation d'apprentissage automatique auto-développée d'Amazon Cloud Technology. Par rapport à des instances similaires, le coût de formation est économisé de 50 %

Le contenu réécrit est le suivant : Premièrement, établir une base solide pour les données et utiliser les données privatisées pour établir des avantages concurrentiels différenciés. La technologie Amazon Cloud fournit des services de données complets, depuis le stockage, l'interrogation et l'analyse des données jusqu'à l'utilisation de la business intelligence, de l'apprentissage automatique et de l'intelligence artificielle générative, ainsi que l'intégration et la gestion faciles des données, ainsi que la gestion de l'application et de l'ouverture des données grâce à des solutions efficaces. politiques de sécurité. Par exemple, pour des scénarios d'application tels que les informations personnelles des utilisateurs, la gestion des informations de session et la base de connaissances de domaine privé dans le domaine de l'intelligence artificielle générative, Amazon Cloud Technology a ajouté des fonctions de base de données vectorielles à Amazon OpenSearch Service, Amazon Aurora PostgreSQL et Amazon RDS pour PostgreSQL. En termes d'intégration de données, Amazon Cloud Technology a proposé le concept de « zéro ETL » et a lancé Aurora Zero ETL pour Redshift Integration, qui permet de synchroniser les données commerciales générées en temps réel d'Amazon Aurora vers l'entrepôt de données Amazon Redshift sans avoir besoin pour que les outils ETL puissent réaliser une analyse d'agrégation de Big Data en temps quasi réel. En termes de gouvernance des données, Amazon Cloud Technology propose un nouveau service de gouvernance des données, Amazon DataZone, pour réduire la lourde charge de travail des membres internes lors de l'accès aux données et de l'utilisation des outils d'analyse

Lors de la réunion, l'équipe Siemens Dayu a partagé le robot de chat intelligent "Xiaoyu" qu'elle a construit avec le soutien de la technologie cloud d'Amazon. Le robot interagit grâce à la génération d'intelligence artificielle. La partie la plus intéressante est l'adoption de la conception « architecture RAG + base de données vectorielles » : la base de connaissances de base est construite sous forme vectorielle et peut stocker des données vectorielles à grande échelle. De plus, l'architecture RAG étend considérablement la convivialité des grands modèles, permettant de traiter de nouvelles pièces en utilisant le même modèle sans ajustements. De plus, étant donné qu'Amazon Cloud Technology fournit une série de technologies de base, notamment des bases de données vectorielles et l'intelligence artificielle générative, le taux d'achèvement des conseils de l'ensemble de la solution atteint 80 %

Grâce aux services cloud natifs, la construction d'applications d'IA peut être accélérée, favorisant ainsi l'innovation commerciale agile. Chen Xiaojian estime qu'à l'ère actuelle de l'intelligence artificielle générative, de plus en plus de clients ont besoin d'une architecture native et a proposé cinq détails à cet effet. Le premier est un cadre de conception avec des microservices et une architecture basée sur les événements comme noyau, qui gère les dépendances entre chaque module fonctionnel de manière faiblement couplée. Deuxièmement, donnez la priorité à l'utilisation d'une architecture sans serveur pour réduire la charge d'exploitation, de maintenance et de déploiement de l'infrastructure, afin de pouvoir vous concentrer davantage sur la logique métier et l'innovation. Troisièmement, donner la priorité à la prise de décision en matière de données, considérer les capacités de données comme le principal avantage concurrentiel des applications et les intégrer dans le concept de conception des applications d'intelligence artificielle générative. Quatrièmement, se concentrer sur les mesures de sécurité et adopter des méthodes de contrôle d'impact pour réduire l'ampleur des risques potentiels, tout en plaçant la conformité en matière de sécurité et la protection des données dans une position importante. Enfin, pour éviter de réinventer la roue, en plus de nous concentrer sur la technologie elle-même, nous devons continuer à investir dans des concepts modernes de gouvernance des applications tels que DevOps, l'infrastructure en tant que service et l'automatisation, promouvoir le partage des actifs et des pratiques applicatives au sein de l'entreprise. , et construisez une culture de constructeur efficace et agile

Enfin, éliminez le travail répétitif et concentrez-vous sur l'innovation en utilisant des services d'IA générative prêts à l'emploi. À cette fin, Amazon Cloud Technology fournit Amazon CodeWhisperer, un partenaire de programmation d'intelligence artificielle, qui peut fournir des suggestions de code de programmation en temps réel, améliorant ainsi fondamentalement la productivité des développeurs. Par rapport aux développeurs qui n'ont pas utilisé l'outil, les développeurs qui ont utilisé CodeWhisperer ont accompli leurs tâches 57 % plus rapidement et ont eu un taux de réussite 27 % plus élevé. De plus, Amazon Whisperer a lancé des fonctionnalités personnalisées capables de générer de meilleures suggestions de code. Il permet aux clients de personnaliser en toute sécurité les recommandations de code de CodeWhisperer à l'aide de bibliothèques de codes privées pouvant couvrir les API internes, les bases de données, les meilleures pratiques, les modèles architecturaux, etc. Dans le même temps, Amazon Cloud Technology combine également la fonction Amazon Quicksight Q avec la fonction de modèle de langage étendu fournie par Amazon Bedrock pour fournir des fonctions BI génératives pour Amazon QuickSight

Actuellement, la technologie Amazon Cloud a aidé plus d'un millier de petites et moyennes entreprises et de startups à réaliser rapidement des innovations en matière d'IA générative grâce à des services et des outils d'IA générative prêts à l'emploi, et a permis à plus de 100 000 développeurs chinois.

« Le développement d'applications d'IA générative est un projet systématique plein de défis, et il ne s'agit pas seulement de combiner des produits et des services. » Chen Xiaojian a finalement ajouté : « En plus des propres ressources d'Amazon, nous devons également établir un partenaire solide. » écosystème pour travailler avec eux. Ensemble, nous résolvons divers problèmes techniques dans la construction d'applications d'IA génératives et accélérons la commercialisation des applications. En plus de fournir des services cloud, nous disposons également d'architectes de solutions, d'experts techniques de produits, de laboratoires d'intelligence artificielle, de laboratoires de données, et des équipes de prototypage rapide »

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!