알리다! AI로 인해 허위정보가 확산될 수 있다

과학기술일보에 따르면 생성 인공지능(AI)이 등장한 후 일부 직업적 지위에 영향을 미치고 기존 저작권 시스템에 새로운 도전을 제기하는 것 외에도 소셜 미디어에서 허위 정보를 유포하는 데 사용될 수도 있습니다. 새로운 위험을 창출할 뿐 아니라 기존 위험을 증폭시켜 경제적, 사회적 안정을 위협합니다.

실제 상황에 따른 합리적인 예측을 바탕으로 AI가 지원하는 허위정보 활동은 주로 다음 네 가지 측면에서 활용될 수 있습니다.

①가짜뉴스를 만들어라.

여기서 주요 목적은 공식 미디어 뉴스를 왜곡 및 변조하고, "그림으로 시작하고 나머지는 편집에 의존"하는 낡은 후진 콘텐츠 제작 방식을 제거하고 대신 요구 사항을 설정하고 일부 자료를 입력하고 자동으로 그래픽을 생성하는 것입니다. /text/ 비디오용 완전 자동화 모드입니다.

②.소문을 퍼뜨려보세요.

가짜 뉴스는 신속하게 생성되고 자동화되며 일괄적으로 확산될 수 있습니다. 뉴미디어, 소셜 미디어 색조 메커니즘에 정통하고 커뮤니케이션이나 저널리즘 이론에 정통한 "전문가"가 추가되면 더욱 빠르게 확산될 수 있습니다. "천 번 반복한 거짓말은 진실이 된다." 게다가 소문도 기발하기 때문에 인터넷에 퍼지면 자연스럽게 큰 관심과 논의를 얻게 된다. 반대로 소문을 반박하려면 '다리 부러지기'가 필요할 뿐 아니라 '너무 정확하기' 때문이다. 그리고 아무도 보고 있지 않습니다.

3 생성 AI와 소셜 미디어 기능을 결합하여 "스팸 바다" 전술을 구현합니다.

심각한 뉴스와 정보를 몰아내고 소셜 미디어에 유통되는 정보를 완전히 통제하기 위해 연예 뉴스, 가십 정보 등 "꼭두각시 재미" 콘텐츠를 전체 네트워크에 쏟아 부어 전체 사용자의 시야를 차지합니다. 연예사와의 긴밀한 협력을 통해, 막후에서는 설정된 전술적 목표를 달성하면서 추가적인 이익을 얻을 수 있습니다.

4 심층 합성 기술을 사용하여 계정을 위조하고 소셜 미디어의 정상적인 질서를 방해합니다.

정부 기관, 기업, 기관, 사회 단체, 유명인/대형 VS/오피니언 리더 등의 공식 계정 및 개인 계정에서 사진 및 텍스트, 얼굴 이미지, 음성 등의 정보를 크롤링하여 이를 사용하는 경우 그는 피해자에게 문제를 일으킬 수 있을 뿐만 아니라 문제를 일으키고, 진실과 거짓을 혼동할 수도 있습니다.

더 중요한 것은, 영리를 위한 것이든, 자신들의 목적을 달성하기 위한 것이든 허위 정보의 생산자와 유포자의 행위는 본질적으로 불법이며 법률, 규정, 플랫폼 규정 등의 제약을 자연스럽게 무시하게 되므로 세 가지 주요 어려움이 있습니다. - 검토도 어렵고, 감독도 어렵고, 처벌도 어렵다.

① 리뷰가 어렵습니다.

현재 다양한 플랫폼에서 생성적 AI 콘텐츠에 대한 요구 사항은 "업로더 자기 규율"로 요약할 수 있습니다. 즉, 사용자가 적극적으로 눈길을 끄는 식별을 통해 해당 콘텐츠가 AI에 의해 제작되었음을 시청자에게 명확하게 알리는 것을 규정합니다. "악당이 아닌 신사를 조심하십시오" ". 물론 일반 사용자는 규칙에 따라 행동하겠지만 불법 사용자는 입찰을 완전히 회피하거나 입찰 속도를 늦추거나 입찰을 줄일 수 있습니다.

②감독이 어렵다.

콘텐츠 생성 분야에 AI가 적용되기 전에는 인터넷상의 가짜 뉴스가 잡초처럼 자라 근절하기 어렵다는 것은 잘 알려진 사실입니다. 이에 대해 전통적인 관리 방식은 빅데이터 심사 + 신고접수를 결합하여 불법계좌 단속 및 관련계좌 표시에 중점을 두는 것이 올바르고 흠잡을데 없는 처리 방식입니다. 하지만 문제는 부도덕한 사용자가 AI를 도입한 후 이전 상태를 산발적이고 점처럼 보이는 산불로 간주하면 처리하고 수정해야 하는 잘못된 정보가 큰 화재로 발전하고 관리에 많은 비용이 소모된다는 것입니다. 인력, 물적 자원, 난이도가 기하급수적으로 증가합니다.

③처벌은 어렵습니다.

결국 처벌에는 두 가지 문제가 있습니다. 하나는 뒷받침하는 법률과 규정이 충분하지 않다는 것이고, 다른 하나는 비밀로 인해 포착이 어렵다는 것입니다. 그러나 얼마 전부터 사이버폭력에 대한 적용법규에 대한 국민의 의견이 수렴되었으며, 조만간 구체적으로 시행될 것으로 예상됩니다. AI로 인해 발생하는 허위정보에 대한 거버넌스가 진전되면서 관련 법적 구축도 따라올 것으로 예상된다.

Azhi는 생성 AI에 대한 질문에서 AI가 역사상 등장한 신기술과 근본적으로 다르지 않다는 점을 여러 번 언급했습니다. 옳고 그름, 선과 악과는 아무런 관련이 없습니다. 사용된. 인터넷 산업의 새로운 엔진이자 금융 시장의 새로운 저장소로서의 역할에는 의심의 여지가 없습니다. 그러나 기술 우위에 대한 맹목적이고 일방적인 강조는 대부분 기회주의자들에 의해 이루어지며 이익만을 추구합니다. 우리는 생성 AI의 혁신적인 기술을 객관적이고 종합적으로 바라보고, 남용으로 인해 발생하는 위험을 방지하기 위한 예방 조치를 취해야 합니다.

위 내용은 알리다! AI로 인해 허위정보가 확산될 수 있다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!