Comment gérer l'IA générative

Auteur丨Dom Couldwell

Compilation丨Noah

Produit | 51CTO Technology Stack (WeChat ID: blog51cto)

Selon les estimations de McKinsey & Company, l'intelligence artificielle générative devrait rapporter 2,6 milliards de personnes à l'échelle mondiale l’économie chaque année entre 4 000 et 4 400 milliards de dollars de bénéfices économiques. Cette prévision est basée sur 63 nouveaux scénarios d'application qui devraient apporter des améliorations, des gains d'efficacité et de nouveaux produits aux clients sur plusieurs marchés. Il s’agit sans aucun doute d’une énorme opportunité pour les développeurs et les responsables informatiques.

Le cœur de l’IA générative réside dans les données. Les données donnent non seulement à l’IA générative la capacité de comprendre et d’analyser le monde qui l’entoure, mais elles renforcent également son potentiel de transformation. Pour réussir dans le domaine de l’IA générative, les entreprises doivent gérer et préparer efficacement les données.

Pour créer et exploiter avec succès des services d'IA à grande échelle et soutenir des projets d'IA générative, vous devez vous assurer de faire vos devoirs en matière de préparation des données et d'adopter une stratégie de financement intelligente et durable. Un rythme lent et une approche de soutien décroissante ne conduiront pas à un avantage en matière d’intelligence artificielle. Par conséquent, en plus d’élargir l’échelle des services d’IA, il est également nécessaire de garantir des sources de financement stables pour les projets afin de promouvoir le développement à long terme et l’innovation continue.

Si nous n’améliorons pas la façon dont nous gérons les données, ou si nous n’adoptons pas la bonne approche pour résoudre les problèmes de mise à l’échelle et de contrôle des coûts, l’énorme potentiel de l’IA générative sera gaspillé. Voici quelques réflexions sur la manière dont nous pouvons améliorer notre approche de la gestion des données et soutenir les projets d’IA générative sur le long terme.

1. D'où proviennent les données ?

Les données existent sous diverses formes si elles sont utilisées correctement, chaque forme de données peut améliorer la richesse et la qualité des informations génératives de l'IA.

Le premier formulaire est constitué de données structurées, qui sont organisées de manière régulière, ordonnée et cohérente et comprennent des éléments tels que des informations sur le produit, les données démographiques des clients ou les niveaux de stock. Ce type de données fournit une base de données organisée qui peut être ajoutée aux projets d’IA générative pour améliorer la qualité des réponses.

De plus, vous pouvez disposer de sources de données externes qui complètent vos sources de données structurées internes, telles que des bulletins météorologiques, les cours des actions ou les flux de trafic, etc. Ces données peuvent apporter un contexte réel en temps réel au processus de prise de décision, et leur intégration dans un projet peut fournir des données supplémentaires de haute qualité, mais il n'est peut-être pas nécessaire de générer ces données vous-même.

Un autre ensemble de données courant est celui des données dérivées, qui couvrent les données créées via des scénarios d'analyse et de modélisation. Ces informations peuvent inclure des rapports sur l'intention des clients, des prévisions de ventes saisonnières ou des analyses de segments.

La dernière forme courante de données est celle des données non structurées, qui sont différentes des rapports habituels ou des formats de données auxquels les analystes sont habitués. Ce type de données inclut des formats tels que des images, des documents et des fichiers audio. Ces données capturent les nuances de la communication et de l’expression humaines. Les programmes d’IA générative fonctionnent souvent autour d’images ou d’audio, qui sont des entrées et sorties courantes pour les modèles d’IA générative.

2. Pour parvenir à une application à grande échelle de l'IA générative

Tous ces divers ensembles de données existent chacun dans leur propre environnement. Pour le rendre utile aux projets d’IA générative, la clé est de rendre ce paysage de données diversifié accessible dans des situations en temps réel. Avec une telle quantité de données potentielles impliquées, toute approche doit être capable d'évoluer de manière dynamique à mesure que la demande augmente et de répliquer les données à l'échelle mondiale, garantissant que les ressources sont proches des utilisateurs lorsqu'elles sont demandées, évitant ainsi les temps d'arrêt et réduisant la latence des demandes de transaction.

De plus, ces données doivent également être prétraitées afin que le système d'IA générative puisse les utiliser efficacement. Cela implique de créer des plongements, qui sont des valeurs mathématiques, ou des vecteurs, qui représentent une signification sémantique. L'intégration permet aux systèmes d'IA générative d'aller au-delà de la correspondance de texte spécifique et d'adopter à la place la signification et le contexte intégrés dans les données. Quelle que soit la forme originale des données, la création d'intégrations signifie que les données peuvent être comprises et utilisées par les systèmes d'IA générative tout en conservant leur signification et leur contexte.

Grâce à ces intégrations, les entreprises peuvent prendre en charge les recherches vectorielles ou hybrides sur toutes leurs données, tout en combinant valeur et sens. Ces résultats sont ensuite collectés et transmis à un modèle de langage à grande échelle (LLM) utilisé pour intégrer les résultats. En fournissant davantage de données provenant de sources multiples, plutôt que de s'appuyer uniquement sur le LLM lui-même, vos projets d'IA générative peuvent fournir aux utilisateurs des résultats plus précis et réduire le risque de contenu fictif.

Pour y parvenir dans la pratique, la bonne architecture de données sous-jacente doit être choisie. Au cours de ce processus, les données doivent être évitées autant que possible en étant dispersées dans différentes solutions pour former un patchwork fragmenté, car chacune de ces solutions représente un îlot de données qui nécessite une prise en charge, des requêtes et une gestion à long terme. Les utilisateurs doivent être en mesure de poser rapidement des questions LLM et d'obtenir des réponses rapidement, plutôt que d'attendre que plusieurs composants répondent et que leurs résultats soient pondérés par le modèle. Une architecture de données unifiée doit permettre une intégration transparente des données, permettant à l'IA générative d'utiliser pleinement l'ensemble du spectre de données disponible.

3. Avantages de l'approche modulaire

Pour faire évoluer les mises en œuvre de l’IA générative, il doit y avoir un équilibre entre l’accélération de l’adoption et le maintien du contrôle des actifs critiques. Adopter une approche modulaire pour créer des agents d’IA génératifs peut faciliter ce processus, car elle décompose le processus de mise en œuvre et évite les goulots d’étranglement potentiels.

Semblable à l'application de la conception de microservices dans les applications, une approche modulaire des services d'IA encourage également les meilleures pratiques en matière de conception d'applications et de logiciels, éliminant les points de défaillance et rendant la technologie accessible à un plus grand nombre d'utilisateurs potentiels. Cette approche facilite également la surveillance des performances des agents IA dans l'ensemble de l'entreprise, en identifiant plus précisément où les problèmes surviennent.

Le premier avantage de la modularité est l'interprétabilité, puisque les composants impliqués dans un système d'IA générative sont séparés les uns des autres, ce qui facilite l'analyse du fonctionnement et de la prise de décisions de l'agent. L'IA est souvent considérée comme une « boîte noire » et la modularité facilite le suivi et l'interprétation des résultats.

Le deuxième avantage est la sécurité, car les composants individuels peuvent être protégés avec des mécanismes d'authentification et d'autorisation optimaux, garantissant que seuls les utilisateurs autorisés peuvent accéder aux données et fonctions sensibles. La modularité facilite également la conformité et la gouvernance, car les informations personnelles identifiables (PII) ou la propriété intellectuelle (IP) peuvent être sécurisées et conservées séparément du LLM sous-jacent.

4. Fournir un modèle de financement continuellement flexible

En plus d'adopter une approche de microservices, un état d'esprit de plateforme doit être adopté dans l'ensemble des projets d'IA générative. Cela signifie remplacer le modèle traditionnel de financement de projets logiciels basé sur des projets par un modèle offrant un modèle de financement continu et flexible. Cette approche permet aux participants de prendre des décisions fondées sur des valeurs, de répondre aux opportunités émergentes et de développer les meilleures pratiques sans être contraints par des cycles de financement ou des analyses de rentabilisation rigides.

Gérer les budgets de cette manière encourage également les développeurs et les équipes commerciales à considérer l'IA générative comme faisant partie de l'infrastructure déjà existante de l'organisation, ce qui permet d'atténuer plus facilement les hauts et les bas des charges de travail de planification et d'agir plus facilement sur « l'excellence ». approche « centrale » et maintenir une cohérence sur le long terme.

Une approche similaire consiste à considérer l’IA générative comme un produit exploité par l’entreprise elle-même, plutôt que comme un pur logiciel. Les agents d’IA doivent être gérés comme des produits, car cela reflète plus efficacement la valeur qu’ils créent et rend les ressources de support pour les intégrations, les outils et les astuces plus facilement disponibles. La simplification de ce modèle contribue à diffuser la compréhension de l'IA générative dans toute l'organisation, favorise l'adoption des meilleures pratiques et crée une culture d'expertise partagée et de collaboration dans le développement de l'IA générative.

L'IA générative a un énorme potentiel, et les entreprises s'empressent de mettre en œuvre de nouveaux outils, agents et signaux dans leurs opérations. Cependant, la mise en production de ces projets potentiels nécessite une gestion efficace des données, une base pour faire évoluer le système et un modèle budgétaire approprié en place pour soutenir l'équipe. Bien gérer vos processus et établir des priorités vous aidera, vous et votre équipe, à libérer le potentiel de transformation de cette technologie.

Adresse de référence : https://www.infoworld.com/article/3713461/how-to-manage-generative-ai.html