해커들은 AI 얼굴 변화 기술을 사용해 입사 지원을 한다. 인공지능 보안 문제는 무시할 수 없다.-일체 포함-php.cn

미국에서 전염병이 발생한 후 많은 회사가 "재택근무"(WFH) 모델을 채택했습니다. FBI 범죄신고센터는 채용 과정에서 지원자들이 다른 사람의 신원을 도용하고 딥페이크 기술을 사용해 원격 인터뷰에 참여했다는 불만을 최근 많은 기업 고용주로부터 접수했다고 밝혔습니다.

해커들은 AI 얼굴 변화 기술을 사용해 입사 지원을 한다. 인공지능 보안 문제는 무시할 수 없다.

이러한 직위에는 정보 기술, 컴퓨터 프로그램, 데이터베이스 및 소프트웨어 관련 분야가 포함됩니다. 일부 구직자는 취업을 위해 다른 사람의 배경과 전문 지식을 이용하고 Deepfake 기술을 사용하여 동영상을 가짜로 만들려고 합니다.

구직자와 온라인 인터뷰를 할 때 구직자의 움직임이나 입술을 열고 닫는 것이 말하는 목소리와 일치하지 않는 것으로 나타났습니다. 예를 들어 재채기나 기침 소리가 발생할 때 이미지가 동기화되지 않았습니다.

이 구직자들에 대한 배경 조사를 실시한 결과 일부 구직자들이 실제로 다른 사람의 ID를 사용하여 일자리를 찾고 있는 것으로 나타났습니다. 단순히 일자리를 구하는 것이라면 아직은 작은 문제이지만, 해커라면 일단 계약에 성공하면 회사에 성공적으로 진입해 기밀 데이터에 접근할 수 있게 된다.

黑客用AI换脸技术应聘人工智能安全问题不容忽视

궁금하시죠? 이 소프트웨어가 그렇게 사용하기 쉬운가요?

답은 정말 매우 발전했다는 것입니다.

Deepfake는 기존 이미지와 비디오를 원본 이미지와 비디오에 결합하고 중첩할 수 있는 GAN(Generative Adversarial Network)의 강력한 이미지 생성 기능을 활용합니다. 수년간의 개발 끝에 Deepfake 기술은 이제 어떤 침해의 느낌도 없이 실시간으로 얼굴 변경을 수행할 수 있습니다.

그러나 동영상의 경우 Deepfake가 높은 신뢰도로 표정을 애니메이션화하기 어렵습니다. 동영상 속 사람들은 눈을 전혀 깜박이지 않거나 너무 자주 깜박이거나 부자연스럽습니다. 더욱이 오디오와 더미 이미지는 자연스럽게 충분히 일치하지 않습니다.

그래서 이런 종류의 영상이 10초 동안 지속된다면, 전체 인터뷰 과정이 더 길어지고 결점을 드러내기가 더 쉬워질 것입니다.

과학기술의 진보와 변화는 양날의 검입니다.

인공지능 기술은 우리에게 엄청난 편리함을 제공하지만 보안, 윤리, 개인정보 보호 등 일련의 문제를 가져올 수도 있습니다.

인공지능 개발의 본질은 알고리즘, 컴퓨팅 능력, 데이터를 사용하여 완전한 정보와 구조화된 환경에서 결정론적 문제를 해결하는 것입니다. 데이터 지원 시대에 인공지능은 많은 보안 위험에 직면해 있습니다.

먼저 중독 공격에 직면할 수 있습니다.

즉, 해커는 AI 시스템의 신뢰성과 정확성을 떨어뜨리기 위해 악성 데이터를 주입하여 인공지능 의사결정 오류로 이어지는 것입니다. 학습 데이터에 가짜 데이터, 악성 샘플 등을 추가하면 데이터의 무결성이 파괴되어 학습된 알고리즘 모델의 의사 결정에 편차가 발생하게 됩니다.

이런 동작이 자율주행 분야에서 활용된다면 차량이 교통법규를 위반하고 심지어 교통사고까지 일으킬 가능성이 높습니다.

둘째, 데이터 유출 문제가 발생합니다.

역공격은 알고리즘 모델 내에서 데이터 유출로 이어질 수 있습니다. 요즘에는 스마트 팔찌, 스마트 스피커 생체 인식 시스템, 스마트 의료 시스템 등 다양한 스마트 기기가 널리 사용되고 있으며 개인 정보가 사방에서 수집됩니다. 얼굴, 지문, 성문, 홍채, 심장박동, 유전자 등을 포함한 이 정보는 고유하고 불변하며, 일단 유출되거나 오용되면 심각한 결과를 초래할 수 있습니다.

예를 들어, 국내 다수의 매장에서 사용자의 동의 없이 수집된 얼굴 사진이 대량 유출된 것으로 드러났습니다. 이러한 얼굴 사진은 어느 정도 블랙 제품에 유출되었으며, 사기 행위가 있을 수 있습니다. 사기. 금융 보안에 대한 위험.