Comment améliorer l'observabilité de l'intelligence artificielle ?

Dans le contexte de l'époque actuelle, on peut comprendre la nostalgie du passé, mais il faut se rendre compte que nous sommes dans un environnement différent. En conséquence, l'observabilité ne sera plus jamais la même

Comment l'IA améliore l'observabilité

Récemment, l'observabilité est devenue de plus en plus complexe, certainement beaucoup plus complexe qu'aux débuts de la surveillance informatique, lorsque tout fonctionnait sur le mainframe, et les journaux et toutes les données de surveillance disponibles peuvent être facilement collectés et visualisés.

Même après que les applications plus récentes soient devenues le cœur de la plupart des organisations, la situation était beaucoup plus simple. Cependant, dans notre monde actuel de Kubernetes, de microservices et de sans serveur, les choses semblent très différentes. Imaginez-vous prendre un marteau et briser le flux facilement observable du passé, et le regarder se briser en centaines de fragments. Cependant, tous ces petits fragments doivent rester étroitement liés et communiquer constamment ;

Essentiellement, cette situation est causée par l'introduction initiale de l'abstraction et de la virtualisation. Lorsque Kubernetes est apparu, ses changements éphémères et rapides et sa nature distribuée ont ajouté beaucoup de complexité. Dans cette situation, tout devient plus difficile à gérer et plus difficile à surveiller et à résoudre ; beaucoup de gens se sentent perdus et ne savent pas dans quoi ils se sont embarqués. Nous pourrions nous demander : est-il vraiment nécessaire que cela soit si compliqué ?

Nous pouvons comprendre la nostalgie des gens pour le passé, mais en raison de l’environnement dans lequel nous nous trouvons actuellement, l’observabilité ne sera plus jamais la même

Réexaminer les limites de l’observabilité « moderne »

Tout d’abord, revenons en arrière. Faisons un pas en arrière. revenons en arrière et introduisons quelques principes de base, en commençant par les définitions. Dans le contexte de notre infrastructure et de nos applications cloud, l'observabilité est l'art de surveiller et de corriger les systèmes de production en inspectant les logiciels et en prenant des décisions basées sur les données. L’essentiel est de noter que ces décisions doivent être axées sur des résultats spécifiques et des objectifs de niveau de service, et pas seulement sur une surveillance, des alertes et un dépannage continus.

Ensuite, réfléchissons à la conception d’un système d’observabilité fiable dans le monde de l’art d’aujourd’hui. En particulier dans les domaines où les problèmes de codage ou d’infrastructure ont évolué vers des problèmes liés au Big Data, nous devons trouver des moyens d’améliorer les besoins en matière d’efficacité informatique, réseau et de stockage de ces systèmes d’observabilité modernes. Il est important de noter que plus de données ne signifie pas nécessairement de meilleures informations

Il s’avère que l’abstraction, la virtualisation et les microservices ne sont que la pointe de l’iceberg. Avec l'émergence et l'adoption continue d'outils d'IA, tels que Copilot, Code Whisperer, etc., il devient pratiquement impossible pour les humains de traiter, d'analyser et de corréler des milliards d'événements différents pour comprendre si le code qu'ils écrivent s'exécute comme prévu. problème résolu. Une fois de plus, l’observabilité est devenue un problème urgent du Big Data.

Même si les ingénieurs avaient les compétences nécessaires pour comprendre les signaux d'observabilité et analyser les données télémétriques - un talent difficile à trouver - le volume de données à trier serait irréaliste, voire stupéfiant. Le fait est que la grande majorité des grandes quantités de données ne sont pas particulièrement utiles pour fournir un aperçu des performances des systèmes critiques pour l’entreprise.

Plus ne veut pas dire mieux. Dans le même temps, les solutions d'observabilité les plus populaires indiquent que pour résoudre l'énorme flux de données et la complexité de ce problème de Big Data, de nombreuses fonctionnalités sophistiquées et des outils supplémentaires sont nécessaires - le tout à un prix élevé. avec expansion des données. Mais il y a encore de l'espoir

Nous inaugurons l'ère de l'observabilité de l'IA

À l'ère moderne de l'observabilité des microservices et du code généré par l'IA, nous n'avons pas besoin d'une observabilité trop complexe ou coûteuse. Oui, nous voyons de grandes promesses à mesure que les applications d’IA continuent de croître. Les grands modèles linguistiques (LLM) pilotant le code basé sur l'IA offrent une nouvelle approche de l'observabilité

Comment cela fonctionne-t-il ? LLM devient expert dans le traitement, l’apprentissage et l’identification de modèles dans des données textuelles répétitives à grande échelle – la nature même des données de journal et autres télémétries dans des systèmes hautement distribués et dynamiques. LLM sait comment répondre à des questions de base et tirer des inférences, des hypothèses et des prédictions utiles.

Cette approche n'est pas parfaite car les modèles LLM ne sont pas encore conçus pour le temps réel et ne sont pas suffisamment précis pour déterminer la gamme complète de contextes pour résoudre tous les problèmes d'observabilité. Cependant, il est beaucoup plus facile d'établir d'abord une base de référence avec LLM, de comprendre ce qui se passe et d'obtenir des recommandations utiles qu'il ne l'est pour un humain de comprendre et d'établir le contexte de grandes quantités de données générées par une machine dans un laps de temps raisonnable.

Le LLM est donc très pertinent pour résoudre des problèmes d'observabilité. Ils sont destinés à être utilisés dans des systèmes basés sur du texte, ainsi qu'à analyser et à fournir des informations. Cela peut être facilement appliqué à l’observabilité grâce à l’intégration pour fournir des recommandations significatives.

Contenu réécrit : Nous pensons que l'une des plus grandes valeurs du LLM dans ce domaine est de mieux soutenir les praticiens qui n'ont peut-être pas de compétences techniques élevées et de leur permettre de traiter des questions de données volumineuses et complexes. La plupart des problèmes de production qui doivent être résolus disposent de suffisamment de temps pour que LLM puisse fournir une assistance basée sur des données contextuelles historiques. De cette façon, LLM peut rendre l'observabilité plus simple et plus rentable

Dans le même temps, bien que l'intelligence artificielle devienne de plus en plus puissante en matière d'observabilité, il y a des aspects plus intéressants et perturbateurs dans le futur Chance. Ce qui suit est un LLM qui peut être écrit et étudié en langage naturel, plutôt qu'en langages de requête obscurs - une énorme aubaine pour les utilisateurs de tous niveaux, mais surtout ceux qui ont moins d'expérience pratique, y compris les responsables d'unités commerciales.

Désormais, les utilisateurs n'ont plus besoin d'être des experts sur toutes les informations pertinentes, ils peuvent rédiger des requêtes liées à des paramètres communs et utiliser le langage naturel utilisé par les responsables des unités commerciales, et pas seulement les ingénieurs de production. Cela permet l'observabilité d'un large éventail de nouveaux processus et parties prenantes, pas seulement des ingénieurs de production.

Chez Logz.io, nous avons commencé à intégrer LLM et travaillons dur pour développer de nouvelles fonctionnalités intéressantes sur la plateforme, dans le but de tirer pleinement parti de ces technologies émergentes. capacités d’intelligence artificielle. Nous pensons que cela apportera une innovation essentielle aux organisations confrontées aux défis du Big Data et recherchant une observabilité essentielle. Bien que des problèmes urgents de coût et de complexité subsistent sur le marché, nous pensons que cela donne à chacun de nombreuses raisons d'être optimiste

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!