오픈AI연구소는 지난 11월 30일 인공지능 분야 '핫치킨의 대세'로 자리매김한 챗봇 ChatGPT를 출시했다.
계정 있는 사람들이 온갖 엉뚱한 질문을 하고 있고, 계정이 없는 사람들이 계정 등록 안내를 요구하고 있고 심지어 엘론 머스크도 트위터에 공개적으로 "무섭다"라고 댓글을 달기도 했습니다. 현지 시간으로 12월 5일 현재 ChatGPT 사용자는 100만 명이 넘습니다.
네트워크 보안 실무자의 경우 ChatGPT는 무엇을 할 수 있나요? 아마도 코드 감사, 취약점 탐지, 소프트웨어 작성, 쉘코드 반전 등이 될 것입니다.
OpenAI에 따르면 ChatGPT는 GPT-3.5 시리즈 모델을 기반으로 하며 Azure AI 슈퍼컴퓨터의 텍스트 및 코드 데이터를 사용하여 학습됩니다.
GPT는 Generative PreTraining의 약자로 인공지능 연구개발 기업인 OpenAI가 개발한 사용자 텍스트 생성을 위한 자연어 처리(NPL) 모델입니다. 현재 GPT의 공개 버전은 2020년 5월에 출시된 GPT-3입니다. GPT-3.5는 GPT-3의 미세 조정된 버전이며 아직 공식적으로 업데이트를 발표하지 않았습니다.
GPT-3의 공개 정보에 따르면 1,750억 매개변수의 자연어 딥러닝 모델을 갖춘 당시 최대 규모의 신경망이었습니다.
ChatGPT는 질문에 답변하고 지능적으로 기사를 작성하는 것 외에는 천문학부터 지리까지 모든 것을 알고 있는 것처럼 보이지만 네트워크 보안 실무자에게는 거의 쓸모가 없는 것 같나요?
사실 ChatGPT의 목적은 단지 질문과 답변에만 있는 것이 아닙니다. 언어 텍스트든 코드 텍스트든 모든 텍스트에 답할 수 있습니다. 많은 네트워크 보안 전문가들이 ChatGPT의 다양한 용도를 개발하기 시작했습니다. 다음은 사이버 보안 전문가가 발견한 사용법입니다.
ChatGPT는 코드의 오류를 찾을 수 있을 뿐만 아니라 이를 수정하고 복구 방법을 간단한 영어 문장으로 설명합니다.
ChatGPT는 코드에 보안 취약점이 포함되어 있는지 여부를 판단하고 그 결정 이유를 간단한 언어로 설명합니다. 일부 사용자들은 OpenAI가 코드 샘플에서 XSS 취약점을 탐지할 수 있으며 아마도 AI가 한 단계 더 나아가 취약점에 대한 PoC를 제공하도록 AI를 훈련시킬 수 있다고 지적했습니다.
연구원 Jonas Degrave는 ChatGPT를 완전한 Linux 터미널로 전환하고 브라우저를 통해 "가상 머신"과 상호 작용하는 방법을 보여주었습니다. 실제로 터미널은 실제 Linux 가상 머신을 실행하지 않으며 명령줄 입력에 대한 응답은 전적으로 AI와의 대화를 기반으로 합니다.
ChatGPT가 Linux 터미널이 됨
테스트에서 연구원은 차원 순회를 요청하는 다음 텍스트를 ChatGPT에 제공했으며 ChatGPT의 피드백은 "포털에 성공적으로 열렸습니다."
ChatGPT를 사용하여 차원 탐색
위의 가상 Linux 터미널 배포와 유사하게 ChatGPT를 사용하여 Namp 스캔을 생성하는 경우 실제 nmap 애플리케이션을 실행할 필요가 없습니다.
연구원은 ChatGPT에 "호스트의 열려 있는 포트를 검색하는 PHP 프로그램을 생성해달라"고 요청했고 다음과 같은 결과를 얻었습니다.
기계 학습 애호가이자 UNCC 조교수인 Benjamin J Radford는 ChatGPT에 "Tactics 게임용 코드를 파일에 작성하고 gcc를 사용하여 파일을 컴파일한 다음 ChatGPT가 이 기능을 구현합니다."라고 요청했습니다.
ChatGPT 필요에 따라 작성된 PHP 코드
ChatGPT는 base64 문자열과 역방향(알려진) 문자열의 MD5 해시를 디코딩할 수 있습니다. 이는 특히 다음과 같은 경우에 유용합니다. 난독화, 중복 패키징, 인코딩 또는 최소화된 샘플을 검토하는 리버스 엔지니어 및 악성 코드 분석가.
연구원은 무작위로 생성된 ASCII로 인코딩된 쉘 코드를 해독하기 위해 ChatGPT도 사용했습니다. 그 결과 ChatGPT는 기능을 설명했을 뿐만 아니라 C 언어로 다시 작성했습니다.
물론 ChatGPT에는 명백한 한계가 있으며 개발자는 2021년 현재 학습 코퍼스와 같은 AI와 관련된 몇 가지 현재 문제에 대해 이야기했으며 2022년 이후에 무슨 일이 일어날지 대답할 수 없습니다. 동시에 사용하려면 인터넷 연결이 필요합니다. 인터넷이 연결되어 있지 않으면 오프라인으로 훈련된 모델에서 응답 콘텐츠가 제공됩니다. 예를 들어 ChatGPT는 인터넷에 연결되어 있지 않으면 오늘의 날씨에 응답할 수 없습니다.
연구원들은 ChatGPT가 때때로 합리적으로 보이지만 잘못된 답변을 제공한다는 점에 주목했습니다. ChatGPT는 입력 텍스트의 문구 변경에도 약간 반응하지 않습니다. 질문에 대답할 수 없는 경우 ChatGPT는 질문하는 방식을 약간 변경하여 대답할 수 있습니다.
이 모델은 때로는 특정 문구를 반복적으로 사용하거나 예측 가능하게 사용하여 너무 장황한 답변을 제공하기도 합니다. OpenAI는 트레이너가 풍부하고 포괄적인 답변을 선호하기 때문에 이것이 교육 데이터 편향의 결과일 수 있다고 말합니다.
때로는 모델이 모호한 질문에 답할 때 사용자의 의도를 추측하기도 합니다.
ChatGPT의 가장 큰 문제는 OpenAI가 부적절한 지침이나 질문을 거부하도록 모델을 훈련했더라도 여전히 유해한 지침에 반응하거나 편향된 행동을 보일 수 있다는 것입니다.
이러한 한계를 해결하기 위해 OpenAI는 문제가 있는 모델 출력에 대한 사용자 피드백을 수집하는 동시에 모델을 정기적으로 업데이트할 계획이라고 말했습니다. OpenAI는 특히 "가능한 유해한 출력, 새로운 위험 및 가능한 완화"에 대해 우려하고 있으며, API 포인트로 500달러의 상금이 수여되는 ChatGPT 피드백 콘테스트를 개최할 것이라고 발표했습니다.
위 내용은 AI가 인간을 대체할 것인가? 로봇 ChatGPT는 취약점을 감지하고, 코드를 검토하고, 버그를 수정할 수 있습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!
![[웹 프런트엔드] Node.js 빠른 시작](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
