AI 사기는 성공률 100%인가? 딥페이크 방지 모델 '마법으로 마법을 물리쳐라”

몇일 전, 웨이보에서는 AI 사기 성공률이 100%#에 육박한다는 내용이 화제가 되었습니다. 푸젠성의 한 기술회사 법정대리인이 AI 얼굴변화 기술을 활용해 만든 영상을 시청했다는 이유로 10분 만에 430만 위안을 사기당했다.

해외에서도 AI 관련 사기가 발생했다. 구글 CEO의 영상이 첨부된 이메일로 인해 많은 유튜브 블로거들이 위험한 바이러스가 포함된 파일을 다운로드하게 됐다.

이 두 사기 사건 모두 딥페이크 기술과 관련되어 있습니다. 이것은 6년 동안 이어져 온 얼굴 변경 방법입니다. 요즘에는 AIGC 기술의 폭발적인 발전으로 식별하기 어려운 딥페이크 동영상을 만드는 것이 점점 더 쉬워졌습니다. 얼굴 인식이 널리 사용되는 금융 산업에서는 딥 페이크 공격을 예방하는 것도 특히 중요합니다.

금융업계에서 딥페이크에 의한 사기는 주로 신원 사기, 즉 딥 페이크 이미지와 영상을 이용해 타인의 신원을 사칭하고, 금융 신용 처리 과정에서 신원 확인 시스템을 속인 후 사기 및 악성 등록을 저지르는 경우가 많습니다. . 현재 금융업계는 딥페이크 처리에 있어 상대적으로 성숙한 기술적 방법과 솔루션을 보유하고 있으며, 두샤오만(Du Xiaoman)은 딥페이크 처리에 있어 풍부한 경험을 축적했다.

Du Xiaoman은 최근 몇 년 동안 얼굴 인식 프로세스를 우회하기 위해 딥 페이크 기술을 사용하는 추세가 증가하여 금융 기관의 실명 인증 시스템에 일정한 위협이 되고 있다고 소개했습니다. 딥페이크 방지 탐지 알고리즘을 개발해 콘텐츠 진위 여부 검증을 인공지능에 넘기는 것이 가장 신뢰할 수 있는 방법이다. 심층 위조를 방지하기 위한 Du Xiaoman 탐지 모델 알고리즘 전략은 세 가지 측면에서 가짜 동영상 생성 문제를 성공적으로 해결합니다.

첫 번째는 결함을 발생시키는 것입니다. 특히 관련 훈련 데이터가 부족하기 때문에 딥페이크 모델은 비정상적인 눈 깜박임 빈도부터 입 모양과 목소리의 불일치에 이르기까지 일부 인간 얼굴 특징을 올바르게 렌더링하지 못할 수 있습니다. 탐지 모델은 특정 분석 알고리즘을 설계함으로써 "기본적으로 육안으로 볼 수 있는" 특징을 추출하고 분석 및 판단을 수행할 수 있습니다.

두 번째는 고유한 속성입니다. 카메라마다 기기 지문이 다르기 때문에 GAN과 같은 모델도 얼굴 생성 시 생성기를 식별하기 위한 고유 지문을 남기므로 비교를 통해 단서를 찾을 수 있습니다.

세 번째 세부 사항은 높은 수준의 의미론입니다. 얼굴 동작 단위(근육 그룹)의 협응 감지, 다양한 얼굴 영역의 방향 일관성, 영상의 미세한 연속성 등의 문제를 말합니다. 이러한 세부 사항은 모델링 및 복사가 어렵기 때문에 포착되기 쉽습니다.

물론 단일 기능은 복잡한 딥페이크 콘텐츠에 적용하기 어렵기 때문에 탐지 모델의 전체 프레임워크는 의사결정의 견고성을 보장하기 위해 다중 기능 융합을 채택합니다.

Du Xiaoman은 데이터 샘플의 장점 외에도 신경망 검색 및 최적화 알고리즘, 미세 표현 분석 및 그래프 컨볼루션(GCN) 기술, 재구성 기반 자가 지도 사전 학습 방법 등 자신만의 독창성을 통합했습니다. 모델이 "위조 탐지"에서 "진품 식별"로의 전환을 달성할 수 있도록 합니다.

이로 인해 지난해 9월 Xiaoman의 딥페이크 방지 탐지 모델은 정보통신기술원의 특별 얼굴 인식 보안 평가를 성공적으로 통과해 실시간 탐지 보안 보호 기능 우수 인증을 획득했습니다. 구체적인 효과 측면에서는 정적 인물 사진 활성화, AI 얼굴 변경, 허위 얼굴 합성 등 다양한 형태의 딥페이크를 커버할 수 있으며, 오경보율 1,000분의 1로 90% 이상의 회상을 달성합니다. 정확도는 99% 이상입니다.

새로운 딥페이크 도구가 계속 등장함에 따라 금융 업계는 딥페이크 공격의 증가에 직면하게 될 것입니다. Du Xiaoman은 앞으로 더 많은 위조 감지 기술이 마이닝 의미론적 특징, 교차 모달 특징 등에 초점을 맞춰 모델이 위조 감지를 위해 강력한 해석력을 갖춘 높은 수준의 의미론을 사용할 수 있어야 한다고 믿습니다.

(출처: Guangming.com)

위 내용은 AI 사기는 성공률 100%인가? 딥페이크 방지 모델 '마법으로 마법을 물리쳐라”의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!