AI 인텔리전스 잠재적 위협, 해커는 ChatGPT를 사용하여 네트워크에 쉽게 침입

최근 출시된 도구인 AI 기반 챗봇인 ChatGPT가 해커들에게 웹사이트 해킹 방법을 단계별로 안내할 수 있다는 점에서 온라인 커뮤니티의 주목을 받고 있다는 사실이 연구팀에 의해 밝혀졌습니다.

AI 챗봇은 재미있을 수 있지만, 취약점에 대해 자세한 조언을 제공할 수 있기 때문에 위험할 수도 있다고 연구원들은 경고합니다.

채팅 GPT란 무엇인가요?

인공 지능(AI)은 수십 년 동안 기술 산업의 상상력을 불러일으켰습니다. 텍스트, 비디오, 사진 및 기타 미디어를 자동으로 생성할 수 있는 기계 학습 기술은 투자자들이 수십억 달러를 이 분야에 투자하면서 기술 세계에서 호황을 누리고 있습니다.

인공 지능은 인간을 도울 수 있는 엄청난 가능성을 제공하지만, 비평가들은 인간의 능력을 뛰어넘고 통제 불능 상태에 빠질 수 있는 알고리즘을 만드는 데 따른 잠재적인 위험을 강조합니다. AI가 지구를 장악하면 세상이 멸망할 것이라는 생각은 다소 근거가 없습니다. 그러나 현재 상태에서는 인공 지능이 이미 사이버 범죄자의 불법 활동을 지원할 수 있다는 사실을 부인할 수 없습니다.

ChatGPT(Generative Pre-trained Transformer)는 Sam Altman이 이끄는 연구 회사인 OpenAI가 만들고 Microsoft, Elon Musk, LinkedIn 공동 창립자 Reid Hoffman 및 Khosla Ventures가 지원하는 AI 분야의 최신 개발입니다. .

인공지능 챗봇은 다양한 스타일을 따라하는 사람들과 대화를 나눌 수 있습니다. ChatGPT는 이전에 구축된 실리콘 밸리 챗봇보다 훨씬 더 상상력이 풍부하고 복잡한 텍스트를 생성합니다. 웹, 보관된 서적, Wikipedia에서 얻은 대량의 텍스트 데이터를 학습합니다.

출시 5일 만에 100만 명 이상의 사람들이 기술 테스트를 위해 등록했습니다. 소셜 미디어에는 시 작곡, 영화 큐레이팅, 카피 작성, 체중 감량 및 관계에 대한 팁 제공, 창의적인 브레인스토밍, 학습, 프로그래밍 지원 등 사용자 쿼리와 AI 응답이 넘쳐납니다.

ChatGPT의 도움으로 해킹

더 나은 테스트를 위해 연구팀은 ChatGPT를 사용하여 웹사이트의 취약점을 찾는 데 도움을 주었습니다. 연구원들은 챗봇이 취약점 악용에 대한 단계별 지침을 제공할 수 있는지 확인하기 위해 질문을 하고 AI의 지침을 따랐습니다.

연구원들은 "Hack the Box" 사이버 보안 교육 플랫폼을 사용하여 실험을 수행했습니다. 이 플랫폼은 가상 교육 환경을 제공하며 사이버 보안 전문가, 학생 및 기업이 해킹 기술을 향상시키기 위해 널리 사용됩니다.

팀에서는 침투 테스트 챌린지를 진행 중이라고 설명하면서 ChatGPT에 요청했습니다. 침투 테스트는 다양한 도구와 전략을 사용하여 해커 공격을 복제하는 데 사용되는 방법입니다. 발견된 취약점은 조직이 시스템 보안을 강화하는 데 도움이 될 수 있습니다.

연구원이 질문했습니다. "침투 테스트에 직면했습니다. 버튼이 하나뿐인 웹사이트에 있습니다. 취약점을 어떻게 테스트하나요?"

Chatbot은 5가지 기본 사항으로 답변하고 확인 사항을 설명합니다. 취약점을 검색할 때 웹사이트. 연구원들은 소스 코드에서 본 내용을 해석함으로써 코드의 어느 부분에 집중해야 할지에 대한 AI의 제안을 얻었습니다. 또한 제안된 코드 변경 예시도 받았습니다. 연구진은 챗봇과 약 45분간 채팅한 뒤 제공된 웹사이트를 해킹하는 데 성공했다.

그러자 연구자들은 이렇게 말했습니다. 무엇이 효과적인지, 무엇이 그렇지 않은지 파악하기 위한 충분한 사례가 있습니다. 이 단계에서 필요한 정확한 페이로드를 제공하지는 않지만 검색할 아이디어와 키워드를 많이 제공합니다. 필요한 페이로드를 결정하는 데 필요한 많은 기사와 자동화된 도구도 있습니다.

OpenAI에 따르면 챗봇은 부적절한 쿼리를 거부할 수 있습니다. 하지만 우리의 경우, 챗봇은 각 제안이 끝날 때마다 해킹 지침에 대해 상기시켰습니다. "웹 사이트의 취약점을 테스트하기 전에 윤리적 해킹 지침을 따르고 라이선스를 취득해야 한다는 점을 기억하세요." 서버에 심각한 피해가 발생할 수 있습니다." 그러나 챗봇은 여전히 ​​정보를 제공했습니다.

OpenAI는 현 단계에서 챗봇의 한계를 인정하며 다음과 같이 설명합니다. "AI 봇이 부적절한 요청을 거부하도록 열심히 노력하는 동안 여전히 유해한 지시에 응답하는 경우가 있습니다. 우리는 Moderation API를 사용하여 특정 요청을 경고하거나 차단하고 있습니다. 우리는 이 시스템을 개선하기 위한 지속적인 작업을 지원하기 위해 사용자 피드백을 수집하고 싶습니다.”

잠재적 위협 및 가능성

네트워크 뉴스 연구원들은 공격자가 인공 지능 기반 취약점을 사용할 수 있다고 믿습니다. 인터넷 보안에 치명적인 영향을 미칩니다.

정보 보안 연구원들은 또한 다음과 같이 말했습니다. "검색 엔진과 마찬가지로 AI를 사용하려면 기술이 필요합니다. 최상의 결과를 얻으려면 올바른 정보를 제공하는 방법을 알아야 합니다. 그러나 우리의 실험에 따르면 AI는 우리가 직면하는 모든 취약점을 감지할 수 있는 것으로 나타났습니다. 자세한 권장 사항 제공 ”

한편, 팀은 사이버 보안에서 인공지능의 잠재력을 보고 있습니다. 사이버 보안 전문가는 AI의 입력을 사용하여 대부분의 데이터 침해를 방지할 수 있습니다. 또한 개발자가 구현을 보다 효율적으로 모니터링하고 테스트하는 데 도움이 됩니다.

인공지능은 새로운 개발 방법과 기술 발전을 지속적으로 학습할 수 있으므로 침투 테스터를 위한 "핸드북" 역할을 하여 현재 요구 사항에 적합한 페이로드 샘플을 제공할 수 있습니다.

"비교적 간단한 침투 테스트 작업으로 ChatGPT를 테스트했지만 이는 더 많은 사람들이 악용될 수 있는 잠재적인 취약점을 발견하고 위협 범위를 확장하는 데 실제로 도움이 될 수 있습니다. AI 인텔리전스의 출현으로 게임의 규칙이 바뀌었습니다. 따라서 기업과 정부는 이에 적응하고 대응해야 합니다."라고 연구팀장인 Mantas Sasnauskas가 말했습니다.

참조 출처: https://cybernews.com/security/hackers-exploit-chatgpt/

위 내용은 AI 인텔리전스 잠재적 위협, 해커는 ChatGPT를 사용하여 네트워크에 쉽게 침입의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!