Une vulnérabilité de confidentialité dans ChatGPT peut révéler les titres des conversations entre les utilisateurs et les chatbots

Les utilisateurs de Reddit et de Twitter ont commencé à signaler une vulnérabilité dans ChatGPT le 20 mars et ont publié des captures d'écran montrant que leur historique Web ChatGPT contenait des titres de conversation qu'ils ne connaissaient pas.

Bien que les discussions partagées semblent inaccessibles de cette manière, OpenAI a complètement supprimé l'historique des discussions lorsqu'il a fermé la vulnérabilité.

Selon les médias du secteur, ChatGPT a également connu une panne majeure ce jour-là, les utilisateurs qui y avaient accès ont remarqué un service incohérent fourni. OpenAI a documenté la panne sur sa page d'état et a rétabli le service quelques heures après le rapport initial.

Sam Altman, PDG d'OpenAI, a tweeté le 22 mars : « Nous avons rencontré un problème majeur avec ChatGPT en raison d'un bug dans la bibliothèque open source, et un correctif a été publié et nous venons de terminer sa vérification. des utilisateurs ont pu voir les titres de l'historique des conversations des autres utilisateurs. "Nous le regrettons", a déclaré Altman sur Twitter, affirmant que même si le problème était grave, il était désormais résolu. Il n'a pas révélé le nom de la bibliothèque open source où le problème s'est produit, ni le pourcentage exact d'utilisateurs concernés.

Avec des millions de visiteurs chaque jour, les failles de confidentialité qui affectent même un petit nombre de personnes pourraient conduire à un partage généralisé de données, et le « post-mortem technique » promis par Altman devrait résoudre ces problèmes.

Chaque conversation qu'un utilisateur a avec ChatGPT est enregistrée en tant qu'instance dans l'historique de l'utilisateur, avec un titre déterminé en fonction du contenu de la conversation.

Le 27 mars, certains utilisateurs ont découvert que leur historique contenait des titres liés à des sujets ou des fonctionnalités inconnus, ainsi que des titres écrits dans d'autres langues, ce qui suggère que la vulnérabilité est un problème mondial.

Les entreprises OpenAI devront peut-être définir soigneusement leurs politiques et procédures de protection des données et assurer aux utilisateurs que leur chaîne d'approvisionnement open source est sûre et que des problèmes similaires ne se reproduiront plus.

Certains utilisateurs qui ont publié des commentaires sur Reddit ont déclaré avoir vu d'autres types de messages, mais n'ont fourni aucune preuve vérifiable pour étayer ces affirmations.

Un utilisateur a déclaré : "J'ai vu le numéro de téléphone de quelqu'un d'autre lié à mon compte. Cela m'inquiète, mais pas au point de quitter l'application pour l'instant."

Un autre utilisateur a déclaré avoir transmis un autre e-mail lié à son compte. s'est inscrit à ChatGPT Plus, le plan d'abonnement de 20 $ par mois de la plateforme, mais sans avoir accès au service.

Cette vulnérabilité arrive à un moment critique pour OpenAI, un développeur d'intelligence artificielle qui vient de publier son modèle GPT-4. La variante GPT-4 du chatbot est déjà disponible pour les utilisateurs abonnés à ChatGPT Plus, et OpenAI a promis d'offrir des performances au niveau humain.

Le concurrent d'OpenAI dans le domaine de l'intelligence artificielle, Google, a récemment lancé son propre chatbot Bard pour les utilisateurs du Royaume-Uni et des États-Unis. Les utilisateurs peuvent s'inscrire pour un accès libre via une liste d'attente.

Selon les rapports, afin de rivaliser avec ChatGPT, Google a réorganisé son équipe interne et a exprimé l'espoir que Bard, alimenté par une version optimisée du modèle de langage étendu (LLM) à 540 milliards de paramètres LaMDA, pourra être rapidement amélioré grâce aux utilisateurs. retour.

Les initiés du secteur ont comparé Bard et ChatGPT et ont souligné que ChatGPT et le chatbot Bing basé sur GPT-4 de Microsoft deviendront des concurrents exceptionnels dans la nouvelle ère de l'intelligence artificielle.

Bien que Microsoft et OpenAI aient déjà coopéré, Google s'appuie sur sa domination du marché pour offrir à Bard plus d'opportunités.

Google a également dénoncé les lacunes de l'IA générative. Le président d'Alphabet, John Hennessy, a averti en février que Google avait hésité à publier Bard car il était encore en développement, et son article de blog annonçant la sortie de Bard l'a qualifié d'« expérience ».

Lors de tests internes menés par des organismes industriels, le chatbot fonctionnait de la même manière que les versions antérieures de Bing Chat, avec des temps de réponse rapides pour la génération de texte mais une tendance aux résultats faux ou fictifs connus sous le nom d'« hallucinations ».

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!