AI가 만든 가짜 사진을 알아볼 수 있나요?

보는 것이 믿는 시대는 지나고 AI는 현실을 창조하는 법을 배웠습니다.

8월 21일 충칭 베이베이 진윈산에서 산불이 발생했습니다. 화재는 한때 산기슭 마을과 마을로 번졌습니다. 산길은 가파르고 모래가 많지만 오토바이는 충분히 민첩하다. 물자를 조금씩 산으로 옮긴 오토바이 운전자들은 이번 산불 구조의 주인공이 되었고, SNS에서도 사람들의 관심의 초점이 되었습니다.

동시에 네티즌들은 “충칭 산불 사진 10장 중 8장은 AI가 그린 것인데 아래 댓글들은 너무 감동받아서 울었다”고 지적했다.

사실 그러한 사진이 사실인지 거짓인지 판단하는 것은 그리 쉽지 않을 수도 있습니다. 아래에서 시도해 볼 수 있습니다. AI는 더 많은 것을 그릴 수도 있습니다. 아보카도로 의자를 만들고, 하늘로 시장을 열고, 중세 시대의 풍경에 고양이를 넣어 와이파이를 찾는 것... 이 모든 것이 작은 일들입니다. 미국의 보드게임 회사 제이슨 앨런(Jason Allen) 사장은 인공지능 페인팅 툴 미드저니(Midjourney)를 사용해 스스로 세밀하게 다듬은 작품 '스페이스 오페라'를 제작해 콜로라도주 예술대회에서 1위를 차지하기도 했다. 공정한. 기술 매체 테크크런치는 무수정 'AI 페인터'를 '모두를 위한 딥페이크(전능한 딥페이크)'라고 평가했다.

얼굴 바꾸기 AI는 어떤 용도로 사용됐나요?

이전에 알려진 AI "가짜" 기술은 일반적으로 AI 얼굴 변경으로 알려진 딥 페이크 기술입니다. 2019년 한 보고서에 따르면 당시 인터넷에는 이미 딥페이크 기술을 사용하여 제작된 동영상이 수만 개가 있었습니다.

보고서에 따르면 이러한 동영상의 96%는 포르노 동영상이며, 그 중 가장 인기 있는 동영상은 유럽 및 미국 여배우와 한국 여성 아이돌이 출연한 동영상입니다.

보고서에 참여한 연구원인 Henry Ajder는 딥페이크 포럼 사용자들이 자신이 아는 여성(예: 전 여자친구)이 등장하는 얼굴 교환 포르노 동영상을 요청하거나 논의하고 있다고 말했습니다. 그들은 자신들이 포르노 클립에 포함되는 것을 보고 싶어합니다.

AI 페인팅은 단지 얼굴을 바꾸는 것만이 아닙니다.

판도라의 상자를 열어보세요

AI 그림이 무제한인지 확인하기 위해 어둠의 지시문 5개를 입력해 볼까요?

AI는 폭력에 대한 이해가 부족한 것 같습니다. 그러나 섹스에 대한 해석은 정확하며, 섹스도 그렇게 생각합니다.

안정적인 확산, 이 오픈소스이자 강력한 "AI 페인터"는 자동 검토와 동일한 "안전성 검사기"를 자체적으로 설정했습니다. 생성된 이미지가 콘텐츠 정책을 위반한 것으로 의심되는 경우, 콘텐츠 정책에 포함 "불쾌함, 외설, 증오, 폭력 및 기타 이미지"를 생성하는 데 사용할 수 없다고 명시되어 있는 경우 해당 이미지가 차단됩니다.

저희가 생성한 '사악한 사진'을 검토용으로 보냈는데 기계에서는 저스틴 비버의 누드 사진 6장만 '위반'으로 판단했습니다. 그러나 우리는 시공간을 넘어 트럼프가 처칠에게 키스하는 사진 여러 장을 성공적으로 생성했으며, 해당 사진은 중재자에 의해 '안전하다'고 판단되었습니다.

당연히 저스틴 비버의 의지에 반해 누드 사진을 성공적으로 생성했다는 점에서 Stable Diffusion의 자동 리뷰가 꺼질 수 있습니다. 이렇게 하면 더 이상 당신을 거부할 수 없습니다.

AI와 사람들이 판도라의 상자를 마주할 때 갖게 되는 나쁜 생각을 제한하기 위해 가장 유명한 "AI 화가" DALL·E 2는 더욱 엄격한 검열을 실시합니다.

일부 네티즌들은 '피시 앤 칩스를 먹는 영국 유인원', '외발자전거를 몰고 뺑소니하는 오징어', '핵산 검사를 받는 예수의 사진' 등 콘텐츠 정책 위반 경고를 받게 된 모든 지시 사항을 모아놨다. 증오, 폭력, 음란물 및 모든 유명 인물의 이름이 포함될 수 있는 모든 설명은 DALL·E 2에서 금지된 단어에 포함됩니다. 따라서 DALL·E 2를 조작하여 Trump와 Biden이 키스하는 그림을 그릴 수는 없지만 Stable Diffusion은 가능합니다.

AI가 생성한 가짜 사진에는 허점이 있습니다

그러나 현재 AI가 생성한 사진은 완벽하지 않습니다.

The Paper의 사실 확인 프로젝트인 Mingcha Studio의 기자 Zheng Shujing은 AI가 생성한 사진에는 거품, 초현실적인 배경, 캐릭터 치아 크기, 부자연스러운 머리카락 모양 등과 같은 몇 가지 특성이 있을 것이라고 말했습니다. 초기 AI 얼굴 변경은 크기가 고르지 않은 연속적이고 반복적인 패턴을 제시할 때 문제가 발생하기 쉬웠습니다. 요즘에는 일부 기업이 지속적으로 업그레이드되는 생성적 적대 네트워크로 개선되어 이러한 문제가 상대적으로 줄어들었지만 배경 변형, 신체 비대칭 등 세부 사항에서 여전히 볼 수 있는 경우가 있습니다.

세부 사항은 AI가 종종 부족한 부분입니다. 예를 들어 아래 사진의 헬리콥터에는 꼬리 지느러미가 없습니다.

또한 배경 정보는 사진이 진짜인지 아닌지를 구별하는 데 도움이 될 수 있습니다. 이 사진의 수정 날짜는 사건 이후입니다. 그냥 가짜 사진일 뿐입니다. 사진 속 헬리콥터 모델 확인 등 배경 정보를 얻기 위해 연락을 드리는 경우도 있습니다. "

하지만 대부분의 도구는 그녀가 접촉한 사람은 사진이 진짜인지 가짜인지 직접 알려주지 않으며 특정 상황에 따라 판단해야 합니다.

AI 그림 실력이 점점 더 능숙해지면, 참과 거짓을 구별하는 것이 점점 더 어려워질 것입니다. 현실의 확실성이 느슨해지고 있습니다. 그때 사람들은 마음속으로 “이 사진은 너무 진짜같아서 너무 가짜같아”

위 내용은 AI가 만든 가짜 사진을 알아볼 수 있나요?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!