작가

|

편집 | 곱슬 유 티안

헤더 이미지

* 오늘의 헤더 사진은 "어두운 방에 앉아 울고 있는 소녀, 일러스트 스타일"이라는 키워드로 Midjourney를 활용하여 제작되었습니다

우리와 악의 거리는 도구와 관련이 있습니다.

역사상 가장 강력한 도구인 AI도 악한 사람들의 손에 완벽하게 무장되어 있습니다. 일반 사람들에게 AI의 추가로 인해 모든 종류의 사기와 피해를 방지하기가 더욱 어려워졌습니다.

상상해 보세요, 어떤 모습이나 움직임, 그 얼굴이 당신의 얼굴일 수도 있습니다. 무섭나요?

개인이 소셜 플랫폼에 게시한 셀카와 동영상은 AI 얼굴 변경 및 AI 페인팅 기술로 쉽게 처리될 수 있으며, 범죄자가 음란한 사진과 동영상의 '자료'로 사용하여 판매하거나 사기적으로 사용할 수 있습니다.

다시 생각해보면, 여러분이 압도적으로 보고 있는 정보는 모두 특정한 목적을 위해 생산되고 유통되는 것입니다. 무섭지 않나요?

인터넷에 떠돌고 있는 각종 스크린샷과 채팅 기록의 진위 여부를 판별하기는 어렵습니다. '창작'에 AI가 추가되면 스타일도 모방할 수 있고, 논리도 일관성이 있으며, 쉼 없이 대량 생산도 가능합니다. 클릭 한 번으로 정보 오염을 해결할 수 있습니다.

다음의 사악한 사건들은 모두 AI를 적용한 것입니다.

AI “세련된” 컬러 맵 모델

1. AI로 합성한 어린이의 소프트 포르노 사진이 소셜 플랫폼에 등장합니다

5월 16일, 웨이보 블로거 '사이버 시쿠아이 감정소'는 스테이션 B의 일부 사용자가 AI 페인팅 도구로 합성한 어린이의 사실적인 스타일의 소프트 포르노 이미지를 업로드한 사실이 적발됐다고 게시했습니다. 생성된 사진 속 소녀들은 헐벗은 옷을 입고 음란한 행동을 하며, 사용자들은 댓글과 업데이트를 통해 '사진 패키지'를 공유하게 됩니다.

사건이 폭로된 후, 이용자들의 신고로 인해 일부 영상이 라이브러리에서 삭제되었으며, 해당 이용자들의 계정이 차단되었습니다.

사진 출처 : 사이버텐블럭 감정실

2. CP29 만화전 사진은 음란사진으로 '정제'되었습니다

5월 6일 한 네티즌은 웨이보 블로거 '봄의 짧은 남자'에 한 네티즌이 한 포럼에 이날 만화방에서 찍은 코스프레 사진에 불만을 표출해 AI 그림 도구와 LoRA 모델을 활용했다는 글을 올렸다. (일종의 미세 조정 모델) 아마추어 사진을 부분 조정을 통해 '치마업' 음란 사진으로 '정제'합니다.

이 제출물은 웨이보에 게시된 후 최대 21,000회까지 전달되었습니다.

사진 출처: Kasuga Short Man(Weibo

)

공교롭게도 블로거 DeadPrince는 지난 5월 3일 웨이보 비공개 메시지를 통해 자신의 셀카가 낯선 사람에 의해 LoRA 모델로 만들어져 그림 모델 공유 사이트 시빌에 업로드됐고 누군가가 해당 모델을 사용해 누드 사진을 그렸다는 소식을 접했습니다.

출처: DeadPrince

AI가 가짜뉴스를 쓴다

2월 16일 항저우의 한 커뮤니티 소유자 그룹에서 ChatGPT에 대한 논의가 있었습니다. 한 소유자는 ChatGPT를 사용하여 "항저우가 2023년 3월 1일부터 여행 제한을 취소합니다"라는 내용의 가짜 보도 자료를 작성하려고 했습니다. 이후 이 가짜 뉴스는 이유를 알 수 없는 그룹 멤버들에 의해 캡쳐돼 유포됐고, 결국 경찰이 개입해 관련 사업주가 공개 사과했다.

사진 출처: Voice of Zhejiang

AI가 연예인인 척하며 바람을 피운다

5월 13일 '데일리 메일' 보도에 따르면 스페인의 소규모 영화사 피바디 필름스는 영국 유명 배우 베네딕트 컴버배치로부터 "영화 대본에 관심이 있어 함께 영화를 만들고 싶다"는 전화를 받았다.

그러나 영화사는 그에게 여러 차례 인터뷰를 요청했지만 '후안푸'는 심지어 높은 인터뷰비를 제안하며 회사에 먼저 20만 파운드를 송금해 달라고 요청했습니다.

뭔가 이상하다고 느낀 영화 제작사는 "Quanfu" 소속사에 확인했고, 확인 후에야 AI 사기라는 사실을 알게 되었습니다.

영화사 관계자에 따르면 음성통화만 보면 음성 유사도가 100%에 달해 상대방이 '관푸'라고 완전히 확신한다고 한다.

외설적인 동영상을 생성하기 위해 얼굴을 바꾸는 AI

4월 26일, 인터넷 연예인 '카로 라이라이_'는 웨이보에 자신의 가짜 계정을 등록한 척하면서 외부 소셜 플랫폼에 의해 얼굴이 '도난'당했으며 팬들은 돈을 지불하는 한 그녀를 볼 수 있다고 게시했습니다. 동영상.

그녀는 또한 연예인, 블로거, 심지어 아마추어의 많은 사진이 이런 식으로 돈을 벌기 위해 음란한 동영상으로 만들어졌다는 사실을 발견했습니다. 그들은 심지어 온라인 웹사이트의 AI 기술을 사용하여 "한 장으로 옷을 벗을 수 있습니다." " "를 클릭하세요.

AI "원클릭 옷벗기"

3월 28일 웨이보 인기 검색어에는 '옷 클릭 한 번으로 한 여성의 지하철 사진이 AI에 의해 유포됐다'는 글이 올라왔다. 사진 속 여성은 샤오홍슈 블로거로, 이른바 '누드 사진'이 그녀가 찍은 것이다. 지난해 7월 플랫폼에 공개된 사진.

원본 사진에서는 정상적으로 옷을 입고 있었는데, 악의적인 의도를 가진 누군가가 AI 소프트웨어를 이용해 클릭 한 번으로 '옷을 벗는다'고 의도적으로 인터넷에 퍼뜨려 나쁜 영향을 끼쳤습니다. 해당 블로거는 사건 발생 후 관련 부서에 권리 보호를 요청했다.

AI 콘텐츠의 진위 판별이 어려워 국내외 감독이 강화됐다

AI 기술의 대중화로 인해 주요 소셜 미디어 플랫폼에는 AI가 생성한 콘텐츠가 대량으로 등장했습니다. 그러나 AI가 생성한 실제 사진과 동영상, 텍스트 원고는 진실과 거짓을 구별하기 어렵습니다. AI 기술에 대해 잘 모르면 '속기' 쉽다."

예를 들어, 얼마 전 해외 네티즌이 트위터 플랫폼에 '패션 교황' 스푸핑 사진 세트를 게시해 입소문이 났습니다. 사진 속 '가짜 교황'은 전통의상을 벗고 세련된 흰색 다운재킷을 입었다. 진실을 모르는 행인들은 이것이 진짜 교황이 옷을 갈아입는 것이라고 오해하기 쉽다. 실제로 AI 그리기 도구인 미드저니(Midjourney)를 이용해 그린 것입니다.

출처: @skyferrori(트위터

)

이 AI 그룹이 생성한 사진은 행인의 오해를 방지하기에는 너무 '핫'하기 때문에 플랫폼인 Twitter에서는 즉시 해당 사진에 'AI 생성'이라고 표시했습니다.

국내외를 보면 최근 많은 플랫폼에서 AI 콘텐츠 감독을 적시에 후속 조치하고 인공지능 관련 사양과 조치를 발표하고 있습니다.

1. Douyin이 "인공지능 생성 콘텐츠에 대한 Douyin의 플랫폼 사양 및 업계 이니셔티브"를 공개했습니다

이 업계 이니셔티브의 9~11조에서는 AI 생성 콘텐츠 식별, 가상 인물 등록 기능, 사용자 피드백 채널 공개에 대해 언급합니다.

9. 플랫폼은 제작자가 사용자를 쉽게 구별할 수 있도록 표시하고 촉진하는 데 도움이 되는 통합 인공 지능 생성 콘텐츠 식별 기능을 제공합니다.

10. 플랫폼은 가상인간을 등록하고, 등록된 가상인간 이미지를 보호하는 기능을 제공합니다.

11. 플랫폼은 사용자가 불법적으로 생성된 콘텐츠를 신고할 수 있도록 사용자 피드백 채널을 제공합니다.

관련 기사: "두인의 새로운 규칙이 발효됩니다!" 가상 앵커는 마침내 "합법적"이지만 자신의 신원을 공개하고 실제 사람들이 주도해야 합니다》

2. 샤오홍슈가 노트에 AI 생성 로고를 추가합니다

4월 말, 일부 Xiaohongshu 사용자는 플랫폼이 AI 생성 콘텐츠를 표시하기 시작했다는 사실을 발견하고 사용자에게 진위 여부에 주의를 기울일 것을 요청했습니다.

사진 출처 : 인터넷

3. Google은 2023 개발자 컨퍼런스에서 AI 생성 이미지의 워터마킹을 발표했습니다

Google은 최근 2023년 개발자 컨퍼런스에서 AI로 생성된 회사의 모든 이미지에 워터마크가 내장되어 있음을 보장하겠다고 발표했습니다. 워터마크는 육안으로는 인식할 수 없지만 Google 검색 엔진과 같은 소프트웨어는 이를 읽고 표시할 수 있습니다. 사용자에게 이미지가 AI에 의해 생성되었음을 알리는 라벨로 표시됩니다. 이 기능은 앞으로 몇 달 내에 제공될 예정입니다.

또한 우리나라는 2021년에 전략 기획, 정책 수립 및 시행, 규정 및 기술 표준, 자원 할당, 감독 및 검토 등을 포함하는 "차세대 인공지능 윤리 강령"을 발표했습니다. 그리고 올해 3월 중국 사이버공간관리국은 사용자 권리와 이익, 정보 보호를 포함해 생성 AI 서비스 제공업체의 행위를 규제하는 '생성 인공 지능 서비스 관리에 관한 규정(의견 초안)'을 발표했습니다. 보안보증, 기술 안전 및 보안 등

해외를 살펴보면, 이탈리아 정부는 ChatGPT가 유럽 연합의 일반 데이터 보호 규정을 위반했다는 우려를 이유로 올해 3월 일시적인 금지 조치를 취했습니다. OpenAI CEO인 샘 알트먼(Sam Altman)도 5월 16일 미국 상원에서 AI 기술의 잠재적 위험에 대해 증언하고 국회의원들에게 GPT-4와 같은 고급 AI 시스템을 개발하는 조직에 대한 라이선스 요구 사항 및 기타 규정을 시행할 것을 촉구했습니다.

OpenAI CEO가 미국 국회의사당에 나타나 AI 규제를 촉구했습니다. 출처: 인터넷

이러한 침해 사례의 대부분은 여전히 정보 분야에서 발생하고 있음을 알 수 있습니다. 한편으로는 물질적인 측면에서 볼 때 상대적으로 주인이 없는 공개 정보입니다. 원래 저녁 식사 후 거리에서 논의된 것들은 허위와 추측이 많지만, 한 거리에서 저 거리로 퍼지는 것에 지나지 않습니다. 하지만 소셜미디어가 정보를 퍼뜨릴 수 있는 것처럼, 망명자가 많아지면 악한 사람들도 AI를 이용해 혼탁한 흐름을 증폭시킬 수 있는 반면, 피해자 입장에서는 말을 하기 어려운 일반인들이 대부분이다. .. 누구도 그 진술서를 읽지 않을 것이고, 변호사의 편지를 보내는 것은 더욱 어렵습니다. AI 기술 감독에 대한 법률, 규정 및 플랫폼이 후속 조치를 취하고 있지만 일반 사람들의 권리를 보호하는 데 드는 비용은 여전히 매우 높습니다.

문제는 나쁜 놈들에게 돌아옵니다. 인터넷 뒤에 숨어 있으면 손에 든 칼을 통제하는 것이 필수가 됩니다.

ps. 내일은 520

입니다.

, 로맨틱 AI 플레이어로서 어떻게 장미를 놓칠 수 있나요?

넘버원 AI 플레이어 공식 계정 백엔드에서 키워드"520"또는"521"를 답글로 달아주시면 AI가 생성한 블라인드박스 장미를 랜덤으로 받으실 수 있습니다

위 내용은 귀하의 셀카가 '음란한 이미지 라이브러리'에 포함될 수 있으며 AI의 악은 실제로 귀하에게 매우 가깝습니다!의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!