연구: AI 코딩 도우미가 안전하지 않은 코드로 이어질 수 있으므로 개발자는 주의해야 합니다.

연구원들은 개발자가 코드를 작성할 때 AI(인공 지능) 보조자에 의존하면 개발 작업에 대한 과신이 생겨 코드 보안이 덜해진다고 말합니다.

스탠포드 대학교에서 실시한 최근 ​​연구에 따르면 AI 기반 코딩 도우미(예: GitHub의 Copilot)는 개발자가 작업 품질에 대해 혼란을 느끼게 하여 소프트웨어에 버그가 많고 보안 수준이 떨어질 수 있다는 사실이 밝혀졌습니다. 한 AI 전문가는 개발자가 이러한 작업에 AI 보조자를 사용할 때 기대치를 관리하는 것이 중요하다고 말합니다.

AI 코딩으로 인해 더 많은 보안 취약점 발생

이 연구는 47명의 개발자를 대상으로 실험을 수행했는데, 그 중 33명은 코드를 작성하는 동안 AI 도우미를 사용했고, 14명의 통제 그룹은 혼자 코드를 작성했습니다. 대칭 키를 사용하여 문자열을 암호화하거나 해독하는 것을 포함하여 다섯 가지 보안 관련 프로그래밍 작업을 완료해야 합니다. 그들은 모두 웹 브라우저를 사용하여 도움을 받을 수 있습니다.

코딩 및 기타 작업을 위한 AI 보조 도구는 점점 인기를 얻고 있으며, Microsoft 소유 GitHub는 개발자 생산성을 높이기 위해 2021년 기술 미리 보기로 Copilot을 출시할 예정입니다.

Microsoft는 올해 9월 발표된 연구 보고서에서 GitHub가 개발자의 효율성을 높여준다고 지적했습니다. 응답자의 88%는 코딩 시 Copilot이 더 효율적이라고 답했으며, 59%는 반복 작업을 더 빠르게 완료하고 코딩을 더 빠르게 완료하는 것이 주요 이점이라고 답했습니다.

스탠포드 대학의 연구원들은 사용자가 AI 보조자를 사용하여 더 안전하지 않은 코드를 작성하는지 알고 싶었고 이것이 실제로 사실이라는 것을 발견했습니다. AI 도우미를 사용하는 개발자는 코드 품질에 대해 여전히 환멸을 느끼고 있다고 말합니다.

팀은 논문에서 다음과 같이 썼습니다. “통제 그룹의 개발자에 비해 AI 보조자의 도움을 받은 개발자는 대부분의 프로그래밍 작업에서 보안 취약점을 도입할 가능성이 더 높았지만 보안 취약점을 도입할 가능성도 더 높았습니다. 또한, AI 보조 기능을 채택하거나 매개변수를 조정하는 등 AI 보조자에 대한 쿼리 생성에 더 많은 투자를 한 개발자가 궁극적으로 안전한 솔루션을 제공할 가능성이 더 높은 것으로 나타났습니다. ”

이 연구 프로젝트에서는 Python, C, Verilog 세 가지 프로그래밍 언어만 사용했습니다. 여기에는 관리자가 모니터링하는 특별히 개발된 응용 프로그램을 사용하여 최근 대학 졸업자부터 노련한 전문가에 이르기까지 다양한 개발 경험을 가진 비교적 소수의 참가자가 포함됩니다.

첫 번째 실험은 Python으로 작성되었지만 AI 보조자의 도움으로 작성된 실험은 안전하지 않거나 부정확할 가능성이 더 컸습니다. AI 보조자의 도움이 없는 통제 그룹에서는 개발자의 79%가 품질 문제 없이 코드를 작성했습니다. AI 보조자의 도움을 받은 통제 그룹에서는 개발자의 67%만이 품질 문제 없이 코드를 작성했습니다.

AI 코딩 도우미를 주의해서 사용하세요

생성된 코드의 보안과 관련하여 AI 도우미를 사용하는 개발자가 안전하지 않은 솔루션을 제공하거나 간단한 비밀번호를 사용하여 문자열을 암호화 및 해독할 가능성이 높기 때문에 상황은 더욱 악화됩니다. 또한 프로세스가 예상대로 작동하는지 확인하기 위해 최종 값에 대한 타당성 검사를 수행할 가능성도 적습니다.

스탠포드 대학의 연구원들은 이번 연구 결과에 따르면 경험이 부족한 개발자는 AI 보조자를 신뢰하는 경향이 있지만 새로운 보안 취약점이 발생할 위험이 있음을 시사합니다. 따라서 이 연구는 미래 AI 코드 도우미의 설계를 개선하고 안내하는 데 도움이 될 것입니다.

소프트웨어 공급업체인 Pegasystems의 AI 연구소 소장인 Peter van der Putten은 비록 규모는 작지만 연구는 매우 흥미롭고 그 결과는 코딩 및 기타 분야에서 AI 보조자의 사용에 대한 추가 연구에 영감을 줄 수 있다고 말했습니다. . “이는 AI 보조자에 대한 의존도에 대한 우리의 광범위한 연구 결과와도 일치합니다.”라고 그는 말했습니다.

그는 AI 보조자를 채택하는 개발자는 도구에 의존하지 말고 점진적으로 신뢰를 얻어야 한다고 경고했습니다. 너무 많은 것을 이해하고 그 한계를 이해하십시오. 그는 “기술 수용은 품질과 성능에 대한 기대뿐만 아니라 시간과 노력을 절약하는지 여부에도 달려 있다”고 말했다. 이는 이러한 도구를 사용하는 방법에 대한 모범 사례를 정의하고 코드 품질을 테스트하기 위한 잠재적인 추가 기능을 채택하는 것을 의미합니다.”

위 내용은 연구: AI 코딩 도우미가 안전하지 않은 코드로 이어질 수 있으므로 개발자는 주의해야 합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!