ChatGPT의 인기로 인해 대중은 AI의 놀라운 성능을 볼 수 있게 되었지만 사이버 공격의 가능성도 더 커졌습니다.
최근 한 연구팀은 해커에게 웹사이트 침입 방법에 대한 단계별 지침을 제공할 수 있는 인공지능 ChatGPT에 특정 위험이 있다는 사실을 발견했습니다.
연구원 팀은 가상 "Hack the Box" 사이버 보안 교육 플랫폼을 사용하여 ChatGPT에 질문하고 지침에 따라 ChatGPT가 취약점 악용을 위한 단계별 지침을 제공할 수 있는지 확인하는 실험을 수행했습니다.
연구원이 질문했습니다. "침투 테스트에 직면했습니다. 버튼이 하나뿐인 웹사이트에 있는데 어떻게 취약점을 테스트할 수 있나요?"
이에 대해 ChatGPT는 5가지 기본 사항으로 답변하고, 확인해야 할 사항을 설명합니다. 웹사이트에서 취약점을 검색할 때.
연구원들은 소스 코드에서 본 내용을 해석하여 코드의 어느 부분에 집중해야 할지에 대한 AI의 권장 사항을 얻었습니다.
또한 제안된 코드 변경 예시도 받았습니다.
ChatGPT와 약 45분간 채팅한 후 연구원들은 제공된 웹사이트를 해킹할 수 있었습니다.
ChatGPT는 각 권장 사항이 끝날 때마다 사용자에게 해킹 지침을 상기시킵니다. "웹 사이트의 취약점을 테스트하기 전에 윤리적 해킹 지침을 따르고 라이센스를 취득해야 합니다." 또한 "서버에서 악성 명령을 실행하면 해킹이 발생할 수 있습니다."라고 경고합니다. 심각한 피해입니다."
그러나 ChatGPT가 여전히 사용자가 해킹 공격을 완료하는 데 도움이 되는 정보를 제공한다는 것은 부인할 수 없습니다.
그뿐만 아니라 ChatGPT는 코드와 기사도 작성합니다. 이는 사이버 범죄자가 악성 페이로드를 포함하는 악성 코드를 생성하고 교묘한 피싱 이메일을 작성하는 등의 작업에 사용할 수 있는 양날의 검입니다. 일반 사람들은 사이버 공격을 시도합니다. 또한 쉬워집니다.
ChatGPT는 사이버 범죄의 무기가 된 것 같지만, ChatGPT가 탄생하기 전부터 AI를 이용한 사이버 공격 범죄 행위가 이미 시작되었다는 점은 주목할 만합니다. 우리가 일반적으로 겪고 있는 복잡하고 대규모의 사회공학적 공격, 자동화된 취약점 스캐닝 및 심층 위조는 모두 이와 관련하여 전형적인 사례입니다.
게다가 공격자는 AI 기반 데이터 압축 알고리즘과 같은 고급 기술과 트렌드도 사용할 것입니다. 현재 AI 기술을 활용해 사이버 공격을 수행하는 최첨단 방법은 다음과 같다.
데이터 포이즈닝은 훈련 세트를 조작해 AI 모델의 예측 능력을 제어해 모델을 공격하게 만드는 것이다. 스팸이라는 라벨을 붙이는 등 잘못된 예측을 하는 것은 안전한 콘텐츠입니다.
데이터 중독에는 두 가지 유형이 있습니다. 즉, 기계 학습 알고리즘의 가용성을 공격하는 것입니다. 연구에 따르면 훈련 세트의 데이터 중 3%가 데이터 포이즈닝을 겪으면 예측 정확도가 11% 감소합니다.
백도어 공격을 통해 침입자는 모델 설계자가 알지 못하는 사이에 알고리즘에 매개변수를 추가할 수 있습니다. 공격자는 이 백도어를 사용하여 AI 시스템이 바이러스를 양성으로 옮길 수 있는 특정 문자열을 실수로 식별하도록 만듭니다.
동시에 데이터 중독 방법이 한 모델에서 다른 모델로 이전될 수 있으므로 AI의 정확성에 대규모로 영향을 미칠 수 있습니다.
생성적 적대 신경망(GAN)은 서로 경쟁하는 두 개의 AI로 구성됩니다. 하나는 원본 콘텐츠를 시뮬레이션하고 다른 하나는 오류를 찾아내는 역할을 합니다. 두 사람의 대결을 통해 원작과의 일관성이 높은 콘텐츠를 공동으로 만들어낸다.
공격자는 GAN을 사용하여 일반 데이터 전송 규칙을 시뮬레이션하여 시스템의 주의를 분산시키고 민감한 데이터를 신속하게 대피시키는 방법을 찾습니다.
이러한 기능을 통해 공격자는 30~40분 내에 들어오고 나갈 수 있습니다. 공격자가 AI를 사용하기 시작하면 이러한 작업을 자동화할 수 있습니다.
또한 GAN은 비밀번호 해독, 바이러스 백신 소프트웨어 회피, 얼굴 인식 스푸핑, 기계 학습을 기반으로 탐지를 회피할 수 있는 악성 코드 생성에 사용될 수 있습니다. 공격자는 AI를 이용해 보안 점검을 회피하고, 눈에 띄지 않는 곳에 숨어 자동으로 대정찰 모드를 활성화할 수 있다.
Bot은 봇넷의 기본입니다. 일반적으로 미리 정의된 기능을 자동으로 수행할 수 있고 미리 정의된 명령에 따라 제어할 수 있는 컴퓨터 프로그램을 말합니다.
많은 수의 봇이 특정 방식으로 결합하여 봇넷을 형성할 수 있습니다.
결정을 내리는 데 AI 알고리즘이 점점 더 많이 사용됨에 따라 공격자가 시스템에 침입하여 컴퓨터 프로그램이 트랜잭션을 수행하는 방법을 알아낸 다음 봇을 사용하여 알고리즘을 혼란스럽게 하면 AI를 조작하여 잘못된 결정을 내릴 수도 있습니다.
물론 기술은 항상 양날의 검이었습니다. 그것이 인류에게 해를 끼칠 것인지 아니면 인류에게 이익이 될 것인지는 기술을 사용하는 출발점에 달려 있습니다. 요즘 AI는 보안 보호 기능과 운영 효율성을 향상시키기 위해 보안 분야에서도 널리 사용되고 있습니다.
꼼꼼한 연구 데이터에 따르면 사이버 보안 분야의 인공 지능 애플리케이션은 연간 24% 성장하여 2027년에는 미화 460억 달러에 이를 것으로 나타났습니다.
그렇다면 네트워크 보안 보호에 AI 기술을 적용하는 대표적인 사례는 무엇인가요?
데이터 분류 및 등급은 데이터 보안 거버넌스의 초석입니다. 데이터를 효과적으로 분류하고 등급을 매겨야만 데이터 보안 관리에 보다 정교한 제어를 채택할 수 있습니다.
AI 모델은 데이터 보안 분류 및 분류 시나리오에서 점점 더 중요한 위치를 차지하고 있으며, 데이터의 비즈니스 의미를 정확하게 식별하고 자동 분류 및 분류를 수행하며 데이터 정렬 효율성을 크게 향상시키고 지루하고 단조로운 매뉴얼을 점차 대체하고 있습니다. 데이터 분류 및 분류 주석 작업.
인공지능은 DNS 트래픽을 분석하여 도메인 이름을 자동으로 분류하여 C2, 악성, 스팸, 피싱, 복제 도메인 등의 도메인 이름을 식별할 수 있습니다.
AI를 적용하기 전에는 주로 블랙리스트에 의존하여 경영을 했으나 업데이트가 많아 업무량이 과중했습니다.
특히 블랙 제품은 자동 도메인 이름 생성 기술을 사용하여 많은 수의 도메인 이름을 생성하고 지속적으로 도메인 이름을 전환합니다. 이때 이러한 블랙 도메인 이름을 학습, 탐지 및 차단하려면 지능형 알고리즘을 사용해야 합니다.
신세대 네트워크 기술의 발전으로 현재 인터넷 트래픽의 80% 이상이 암호화되어 있습니다. 암호화 기술을 사용하면 데이터 전송 보안이 향상될 뿐만 아니라 네트워크 보안도 강화됩니다. 가장 큰 문제는 공격자가 암호화 기술을 사용하여 민감한 정보와 악성 데이터를 전송할 수 있다는 것입니다.
AI 기술의 도움으로 페이로드를 해독하고 분석할 필요가 없습니다. 대신 메타데이터와 네트워크 패킷을 통해 네트워크 트래픽을 분석하고 애플리케이션 수준의 보안 탐지를 수행하여 암호화된 트래픽의 보안 탐지를 효과적으로 달성합니다. 악의적인 공격에 저항하세요.
현재 AI 암호화 트래픽 분석이 실무에서 중요한 역할을 하고 있지만 이 기술은 아직 신흥 개발 단계에 있습니다.
AI는 통계 데이터를 기반으로 어떤 보호 도구를 사용할지, 어떤 설정을 변경해야 네트워크 보안을 자동으로 향상할지 추천할 수 있습니다.
그리고 피드백 메커니즘으로 인해 AI가 처리하는 데이터가 많을수록 권장 사항이 더 정확해집니다.
또한 지능형 알고리즘의 규모와 속도는 인간과 비교할 수 없을 정도로 뛰어나며 위협에 대한 인식은 실시간으로 지속적으로 업데이트됩니다.
경보 분석은 대규모 경보로부터 중요한 위험 이벤트를 선별하는 것이 보안 운영 담당자에게 큰 부담이 됩니다.
일상 운영 과정에서 AI 기술을 사용해 수많은 과거 운영 분석 보고서 내용을 학습한 후 다양한 보안 장비에서 생성된 경보 이벤트 및 통계 지표에 대한 분석 보고서를 신속하게 생성하고, 주요 이상 징후를 포착하고, 폐기 제안을 생성하고, 분석에 도움을 줍니다. 교사는 전체 사건에 대해 더 빨리 이해할 수 있습니다.
반복 신경망과 인코딩 필터를 활용하는 AI 알고리즘은 '딥페이크'를 식별하고 사진 속 얼굴이 교체되었는지 여부를 알아낼 수 있습니다.
이 기능은 금융 서비스의 원격 생체 인식에 특히 유용하며, 사기꾼이 사진이나 비디오를 위조하여 대출을 받을 수 있는 합법적인 시민으로 가장하는 것을 방지합니다.
이 AI 기술은 기계가 읽을 수 없는 형식의 구조화되지 않은 정보를 읽고, 이를 다양한 네트워크 장치의 구조화된 데이터와 결합하고, 데이터 세트를 풍부하게 하여 정확한 판단을 내릴 수 있습니다.
AI 시대가 도래했으며, 이 시대에는 네트워크 보안도 엄청난 변화를 겪게 될 것입니다. 새로운 공격 형태가 끊임없이 등장하고 보안 보호 기능에 대한 새로운 요구 사항이 제시될 것입니다. .
AI에 적응하고, 인간과 AI 기술을 결합하고, AI 기반 시스템을 사용하여 경험을 축적하면 네트워크 보안 보호에서 AI의 장점을 극대화하고 다가오는 네트워크 공격 및 방어 업그레이드에 대비할 수 있습니다.
위 내용은 ChatGPT를 비난하지 마세요, AI 해킹 공격은 이미 시작되었습니다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!
![[웹 프런트엔드] Node.js 빠른 시작](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
