Étude : les assistants de codage IA peuvent conduire à du code dangereux, les développeurs doivent faire preuve de prudence

Les chercheurs affirment que les développeurs qui s'appuient sur des assistants d'IA (intelligence artificielle) lors de l'écriture du code les rendront trop confiants dans leur travail de développement, ce qui entraînera un code moins sécurisé.

Une étude récente menée par l'Université de Stanford a révélé que les assistants de codage basés sur l'IA (tels que Copilot de GitHub) peuvent rendre les développeurs confus quant à la qualité de leur travail, ce qui entraîne des logiciels qui peuvent être bogués et moins sécurisés. Un expert en IA affirme qu'il est important que les développeurs gèrent leurs attentes lorsqu'ils utilisent des assistants IA pour de telles tâches.

Le codage IA introduit davantage de vulnérabilités de sécurité

L'étude a mené une expérience auprès de 47 développeurs, dont 33 ont utilisé un assistant IA pour écrire du code, tandis qu'un groupe témoin de 14 personnes a écrit du code seul. Ils doivent effectuer cinq tâches de programmation liées à la sécurité, notamment le cryptage ou le déchiffrement de chaînes à l'aide de clés symétriques. Ils peuvent tous obtenir de l’aide à l’aide d’un navigateur Web.

Les outils d'assistance IA pour le codage et d'autres tâches deviennent de plus en plus populaires, et GitHub, propriété de Microsoft, lancera Copilot en tant qu'aperçu technologique en 2021 pour augmenter la productivité des développeurs.

Microsoft a souligné dans un rapport de recherche publié en septembre de cette année que GitHub rend les développeurs plus efficaces. 88 % des personnes interrogées ont déclaré que Copilot est plus efficace lors du codage, et 59 % ont déclaré que ses principaux avantages étaient d'effectuer les tâches répétitives plus rapidement et de terminer le codage plus rapidement.

Des chercheurs de l'Université de Stanford ont voulu savoir si les utilisateurs écrivaient du code plus non sécurisé avec des assistants IA, et ont découvert que c'était effectivement le cas. Les développeurs qui utilisent des assistants IA restent déçus quant à la qualité de leur code, affirment-ils.

L'équipe a écrit dans le document : « Nous avons observé que par rapport aux développeurs du groupe témoin, les développeurs qui ont reçu l'aide d'un assistant IA étaient plus susceptibles d'introduire des vulnérabilités de sécurité dans la plupart des tâches de programmation, mais étaient également plus susceptibles d'introduire des vulnérabilités de sécurité. Les réponses non sécurisées ont été jugées sûres. De plus, l'étude a révélé que les développeurs qui investissaient davantage dans la création de requêtes pour l'assistant IA (comme l'adoption de fonctionnalités de l'assistant IA ou l'ajustement des paramètres) étaient plus susceptibles de fournir des solutions sûres. . »

Ce projet de recherche a utilisé uniquement trois langages de programmation : Python, C et Verilog. Il implique un nombre relativement restreint de participants ayant une expérience de développement variée, allant des récents diplômés universitaires aux professionnels chevronnés, utilisant des applications spécialement développées et surveillées par les administrateurs.

Les premières expériences ont été écrites en Python, tandis que celles écrites avec l'aide d'assistants IA étaient plus susceptibles d'être dangereuses ou incorrectes. Dans le groupe témoin sans l'aide d'un assistant IA, 79 % des développeurs ont écrit du code sans problèmes de qualité ; dans le groupe témoin avec l'aide d'un assistant IA, seulement 67 % des développeurs ont écrit du code sans problèmes de qualité.

Utilisez les assistants de codage IA avec précaution

Les choses empirent en ce qui concerne la sécurité du code qu'ils créent, car les développeurs employant des assistants IA sont plus susceptibles de fournir des solutions non sécurisées ou d'utiliser de simples mots de passe pour crypter et déchiffrer une chaîne de caractères. Ils sont également moins susceptibles d'effectuer des contrôles de plausibilité sur les valeurs finales pour garantir que le processus fonctionne comme prévu.

Des chercheurs de l'Université de Stanford affirment que les résultats suggèrent que les développeurs moins expérimentés pourraient être enclins à faire confiance aux assistants IA, mais au risque d'introduire de nouvelles vulnérabilités de sécurité. Par conséquent, cette recherche contribuera à améliorer et à orienter la conception des futurs assistants de code d’IA.

Peter van der Putten, directeur du laboratoire d'IA chez l'éditeur de logiciels Pegasystems, a déclaré que même si l'échelle est petite, la recherche est très intéressante et que les résultats peuvent inspirer de nouvelles recherches sur l'utilisation des assistants d'IA dans le codage et dans d'autres domaines. . "Cela est également cohérent avec les résultats de certaines de nos recherches plus larges sur la dépendance aux assistants IA", a-t-il déclaré.

Il a averti que les développeurs qui adoptent les assistants IA devraient gagner progressivement confiance dans l'outil. en faire trop et comprendre ses limites. Il a déclaré : « L’acceptation d’une technologie dépend non seulement des attentes en matière de qualité et de performances, mais aussi de la question de savoir si elle permet d’économiser du temps et des efforts. Dans l’ensemble, les gens ont une attitude positive à l’égard de l’utilisation des assistants IA, à condition que leurs attentes soient gérées. Cela signifie définir les meilleures pratiques sur la façon d'utiliser ces outils, ainsi que d'adopter d'éventuelles fonctionnalités supplémentaires pour tester la qualité du code »

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!