GPT-4 a vaincu avec succès le système d'examen AI-Guardian : l'intelligence artificielle de l'équipe de recherche de Google résiste à l'intelligence artificielle

Selon les informations du 2 août, l'équipe de recherche de Google mène une expérience. Elle utilise le GPT-4 d'OpenAI pour briser les mesures de protection de sécurité d'autres modèles d'IA. L'équipe a maintenant franchi l'examen AI-Guardian. système et partage des détails techniques pertinents.

Grâce à une enquête, IT House a appris qu'AI-Guardian est un système d'examen d'IA qui peut détecter s'il y a un contenu inapproprié dans l'image et si l'image a été modifiée par une autre IA. Si le système détecte les signes ci-dessus, il invitera l'administrateur à gérer

Dans un article intitulé "Utiliser GPT-4 pour concevoir des méthodes d'attaque et écrire des principes d'attaque", Nicholas Carlini, chercheur chez Google Deep Mind, a expliqué comment exploiter ces plans pour tromper le mécanisme de défense de l'IA-Guardian

Cette phrase ne peut pas être réécrite car la phrase originale ne donne pas le contenu spécifique

Il est rapporté que GPT-4 enverra une série de mauvais scripts et explications à tromper l'AI-Guardian, mentionné dans l'article, GPT-4 peut faire croire à AI-Guardian qu'"une image de quelqu'un tenant une arme à feu" est "une image de quelqu'un tenant une pomme inoffensive", permettant ainsi à AI-Guardian de directement publiez la source d'entrée d'image appropriée . L'équipe de recherche de Google a déclaré qu'avec l'aide de GPT-4, ils avaient réussi à « briser » les défenses d'AI-Guardian, réduisant la précision du modèle de 98 % à seulement 8 %.

Actuellement, les documents techniques pertinents ont été publiés dans ArXiv. Les amis intéressés peuvent aller en savoir plus , Cependant, les développeurs d'AI-Guardian ont également souligné que cette méthode d'attaque de l'équipe de recherche de Google sera utilisée à l'avenir. AI- Il n'est plus disponible dans la version Guardian Étant donné que d'autres modèles suivront, ce plan d'attaque actuel de Google ne pourra être utilisé qu'à titre de référence dans le futur.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!