ChatGPT est une intelligence artificielle avec un "QI super élevé", en particulier la version améliorée avec le noyau GPT-4. Cependant, nous savons que ses données de formation datent de 2021. Sans formation, il est impossible pour l’IA de répondre avec précision.
Depuis son lancement en novembre de l'année dernière, ChatGPT a été utilisé par d'innombrables personnes. Les gens ont demandé ce grand modèle de langage pour accéder à plus de données sous diverses formes. Le 24 mars, OpenAI a finalement annoncé qu'il avait partiellement levé la restriction. ChatGPT ne peut pas se connecter à Internet.
La solution d’OpenAI consiste à utiliser des plug-ins tiers comme pont pour permettre à l’IA de « voir » des données externes dans un environnement plus sûr. Hier, l'agence a ouvert sa première liste de plugins ChatGPT. Ce lot de plugins a été créé par Expedia, FiscalNote, Instacart, KAYAK, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram et Zapier.
Plus précisément, le plugin permet désormais d'effectuer les opérations suivantes avec ChatGPT :
Actuellement, l'accès à la version alpha du plug-in a été étendu à davantage d'utilisateurs et de développeurs sur la liste d'attente. Bien qu'OpenAI ait déclaré donner la priorité à un petit nombre de développeurs et d'utilisateurs de ChatGPT Plus, il prévoit également de le faire. l'ouvrir à plus grande échelle dans le futur.
Pour donner à chacun une sensation intuitive, voici un exemple : les utilisateurs peuvent sélectionner et installer le plug-in Wolfram depuis ChatGPT pour améliorer son intelligence informatique.
Aperçu
Bien que les grands modèles linguistiques d'aujourd'hui puissent accomplir diverses tâches, leur rôle est encore limité. Les données de formation sont la seule information dont ils peuvent tirer des leçons, elles sont peut-être obsolètes, mais néanmoins adaptables à tous les besoins humains. De plus, la seule capacité qu'un modèle de langage possède dès le départ est de produire du texte. Ce texte peut contenir des instructions utiles, mais les suivre réellement nécessiterait beaucoup plus de traitement de la part de la personne.Bien qu'il ne s'agisse pas d'une analogie parfaite, les plug-ins peuvent devenir les « yeux et les oreilles » d'un modèle de langage, permettant au modèle de langage d'accéder à des informations nouvelles, privées ou spécifiques qui ne sont pas incluses dans les données d'entraînement.
En réponse aux demandes explicites des utilisateurs, les plug-ins peuvent également permettre aux modèles de langage d'effectuer des opérations sûres et restreintes en leur nom, augmentant ainsi l'utilité de l'ensemble du système.
OpenAI s'attend à ce qu'un standard ouvert unifiant les applications pour l'interaction de l'IA émerge, et ils font les premiers essais pour un tel standard.
Aujourd'hui, OpenAI commence à ouvrir progressivement les plug-ins créés par les premiers collaborateurs d'OpenAI pour les utilisateurs de ChatGPT. Les premières cibles couvertes sont les abonnés ChatGPT Plus. De plus, il a également commencé à déployer la possibilité pour les développeurs de créer les leurs. plug-ins pour ChatGPT.
Dans les mois à venir, à mesure que le système de sécurité s'améliorera, OpenAI prévoit de permettre aux développeurs utilisant des modèles OpenAI d'intégrer des plugins dans leurs propres applications, pas seulement ChatGPT.
Sécurité et impact plus large
Bien sûr, connecter des modèles de langage à des outils externes ouvre de nouvelles opportunités, mais aussi de nouveaux risques importants.Les plugins offrent le potentiel de résoudre divers défis associés aux grands modèles de langage, y compris les « hallucinations » des grands modèles, le suivi des événements récents et l'accès à des sources d'informations propriétaires (sous licence). En intégrant un accès explicite à des données externes, telles que les dernières informations en ligne, le calcul basé sur du code ou les informations de récupération de plug-ins personnalisés, les modèles de langage peuvent améliorer leurs réponses avec un contenu de référence basé sur des preuves. Ces références améliorent non seulement l'utilité du modèle, mais permettent également aux utilisateurs d'évaluer la fiabilité des résultats du modèle et de revérifier son exactitude, atténuant potentiellement la dépendance excessive associée au récent risque de la carte système GPT-4. . Enfin, la valeur des plug-ins peut dépasser les limites existantes en aidant les utilisateurs à gérer une variété de nouveaux cas d'utilisation, de la navigation dans les catalogues de produits à la réservation de vols ou à la commande de nourriture. Mais en même temps, les plug-ins peuvent entreprendre des actions nuisibles ou involontaires, augmentant ainsi la capacité des mauvais acteurs à frauder, induire en erreur ou abuser d'autrui, augmentant ainsi les défis de sécurité. En augmentant la gamme d'applications possibles, les plug-ins peuvent augmenter le risque que le modèle prenne des actions incorrectes ou mal alignées dans de nouveaux domaines, avec des conséquences négatives. Ces facteurs ont guidé le développement de la plateforme de plug-in ChatGPT, pour laquelle OpenAI a introduit un certain nombre de garanties. Auparavant, OpenAI a mené des « exercices d'équipe rouge » en interne et avec des collaborateurs externes, mettant en pratique de nombreux scénarios connexes possibles. Par exemple, les équipes rouges ont vu des plugins effectuer des injections d'invites complexes, envoyer des e-mails et du spam usurpés, contourner les restrictions de sécurité ou utiliser à mauvais escient les informations envoyées au plugin si elles sont publiées sans mesures de sécurité. OpenAI utilise ces résultats pour piloter des mesures d'atténuation de la conception de la sécurité afin de limiter les comportements à risque des plug-ins et d'accroître la transparence sur la manière et le moment où ils fonctionnent dans le cadre de l'expérience utilisateur, en plus de confirmer le déploiement progressif de la décision de visiter les plug-ins. . Les plugins peuvent avoir un impact social étendu. Par exemple, dans un article, les chercheurs d'OpenAI ont découvert que les modèles de langage pouvant utiliser des outils peuvent avoir un impact économique plus important que les modèles de langage sans outils. Plus généralement, selon les conclusions d'autres chercheurs, la technologie actuelle d'intelligence artificielle Waves aura un impact important. sur la vitesse à laquelle les emplois sont transformés, remplacés et créés. Inspiré par une série de travaux tels que WebGPT, GopherCite, BlenderBot2, LaMDA2, etc., permettre aux modèles de langage de lire des informations sur Internet élargira strictement la portée de ce qui peut être discuté, au-delà de la formation Le corpus intègre des informations récentes et actuelles. L'image ci-dessous est un exemple où vous pouvez voir que la navigation ouvre une expérience pour les utilisateurs de ChatGPT où le modèle précédent pouvait poliment souligner que ses données d'entraînement n'incluaient pas suffisamment d'informations pour qu'il puisse répondre. Dans cet exemple, ChatGPT a récupéré des informations sur les Oscars les plus récents (décernés le 13 mars 2023), puis a exécuté une performance en vers ChatGPT familière. La navigation devient un moyen d’enrichir l’expérience. Q : Pouvez-vous me dire quelle personne/film a remporté un Oscar dans ces catégories ? Ensuite, inventez un poème pour relier le tout. ChatGPT vous donnera une série de résultats de recherche et vous pourrez cliquer directement pour afficher les sources d'informations pertinentes. En plus de fournir une valeur pratique aux utilisateurs finaux, les modèles de langage et de chat permettent une recherche approfondie et interprétable, montrant la promesse d'un travail d'alignement évolutif. Il convient de noter que le navigateur Web textuel du plug-in se limite à effectuer des requêtes GET, ce qui réduit mais n'élimine pas certaines catégories de risques de sécurité. Les plug-ins de navigation sont conçus pour récupérer des informations, mais n'incluent pas d'opérations « transactionnelles » telles que la soumission de formulaires, qui comportent des risques de sécurité plus importants. La fonctionnalité de navigation utilise l'API Microsoft Bing Search pour récupérer du contenu sur le Web. En tant que telle, cette fonctionnalité hérite du travail approfondi de Microsoft sur la fiabilité des sources et l'authenticité des informations, ainsi que du « Mode sans échec » qui empêche la récupération de contenu douteux. Le plugin s'exécute dans un service distinct et l'activité de navigation de ChatGPT est distincte du reste de l'infrastructure. Pour respecter les créateurs de contenu et adhérer aux normes du Web, le jeton d'agent utilisateur du plugin de navigateur ChatGPT est ChatGPT-User et est configuré pour respecter le fichier robots.txt du site Web. Parfois, cela peut entraîner un « échec de clic », ce qui indique que le plugin suit les instructions du site Web pour éviter de l'explorer. Cet agent utilisateur ne sera utilisé que pour prendre des mesures directes au nom des utilisateurs de ChatGPT et ne sera pas utilisé pour gratter le Web de manière automatisée. OpenAI publie également des plages de sortie IP et met en œuvre une limitation de débit pour éviter d'envoyer trop de trafic vers les sites Web. OpenAI fournit un interpréteur Python pour le modèle derrière ChatGPT qui fonctionne dans un bac à sable, un environnement d'exécution de pare-feu et un espace disque temporaire. Le code exécuté par le plugin interpréteur est évalué dans une session persistante qui est active pendant toute la durée de la conversation de chat (avec un délai d'attente plafonné), et les appels ultérieurs peuvent s'appuyer les uns sur les autres. Actuellement, cette fonctionnalité prend en charge le téléchargement de fichiers vers l'espace de travail de conversation actuel et le téléchargement des résultats du travail. Cliquez sur Calcul terminé dans l'image : À partir de la recherche initiale des utilisateurs, OpenAI a identifié quelques cas d'utilisation précieux à l'aide de l'interpréteur de code : La première précaution lors de la connexion d'un modèle ChatGPT à un interpréteur de langage de programmation est d'effectuer un sandboxing approprié afin que le code généré par l'IA le fasse ne pas avoir d’effets secondaires involontaires dans le monde réel. OpenAI exécute le code dans un environnement sécurisé et utilise des contrôles réseau stricts pour empêcher l'accès Internet externe d'exécuter le code. De plus, OpenAI impose des limites de ressources à chaque session. La désactivation de l'accès à Internet limite les fonctionnalités du bac à sable de code, mais il s'agit probablement de la forme initiale la plus sûre de programmation assistée par l'IA. Les plug-ins tiers sont conçus avec la sécurité comme priorité absolue et connectent ChatGPT au monde extérieur. Acquisition de données Le plug-in de récupération open source permet à ChatGPT d'accéder aux sources d'informations d'un individu ou d'une organisation avec autorisation. Il permet aux utilisateurs de récupérer les extraits de documents les plus pertinents à partir de leurs sources de données, tels que des fichiers, des notes, des e-mails ou des documents publics, en posant des questions ou en exprimant leurs exigences en langage naturel. En tant que solution open source et auto-hébergée, les développeurs peuvent déployer leur propre version du plugin et l'enregistrer sur ChatGPT. Son plugin exploite l'intégration OpenAI et permet aux développeurs de choisir une base de données vectorielle telle que Milvus, Pinecone, Qdrant, Redis, Weaviate ou Zilliz pour indexer et rechercher des documents. Les sources d'informations peuvent être synchronisées avec la base de données à l'aide de webhooks. Le plugin de récupération permet à ChatGPT de rechercher dans la base de données de vecteurs de contenu et d'ajouter les meilleurs résultats à la session ChatGPT. Cela signifie qu’il n’est soumis à aucune influence extérieure, les principaux risques étant l’autorisation des données et la confidentialité. Les développeurs ne doivent ajouter du contenu qu'aux plugins de récupération qu'ils sont autorisés à utiliser et qu'ils peuvent partager au sein de la session ChatGPT d'un utilisateur. L'utilisation de plug-ins tiers sur ChatGPT se déroule comme ceci : OpenAI a préparé un fichier manifeste de description pour les plug-ins tiers, qui comprend un description lisible par machine des fonctions du plug-in, des méthodes d'appel et de la documentation destinée à l'utilisateur. Étapes pour créer un plug-in : 1. Créez le point de terminaison d'API que vous souhaitez que le modèle de langage appelle (il peut s'agir d'une nouvelle API, d'une API existante ou d'un wrapper autour d'une API existante conçue spécifiquement pour LLM). 2. Créez une spécification OpenAPI qui documente votre API et un fichier manifeste qui renvoie à la spécification OpenAPI et contient des métadonnées spécifiques au plugin. Lors du démarrage d'une conversation sur chat.openai.com, les utilisateurs peuvent sélectionner les plugins tiers qu'ils souhaitent activer. Les documents sur les plug-ins activés sont affichés dans le modèle de langage dans le cadre du contexte de conversation, permettant au modèle d'appeler les API de plug-in appropriées selon les besoins pour répondre à l'intention de l'utilisateur. Actuellement, les plugins sont conçus pour appeler des API backend, et OpenAI explore des plugins qui peuvent également appeler des API client. OpenAI a déclaré qu'ils travaillaient dur pour développer le plug-in et le promouvoir auprès d'un public plus large. Cela signifie également que la tempête provoquée par ChatGPT balaie tout. Laissez ChatGPT parcourir le Web
Interpréteur de code
Modèle expérimental ChatGPT capable de gérer le téléchargement et le téléchargement à l'aide de Python
Mécanismes de sécurité
Plug-ins tiers
{
"schema_version": "v1",
"name_for_human": "TODO Manager",
"name_for_model": "todo_manager",
"description for human": "Manages your TODOs!",
"description_for_model": "An app for managing a user's TODOs",
"api": { "url": "/openapi.json" },
"auth": { "type": "none" },
"logo_url": "https://example.com/logo.png",
"legal_info_url": "http://example.com",
"contact_email": "hello@example.com"
}Copier après la connexion
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!
![[Web front-end] Démarrage rapide de Node.js](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
