인공지능 로봇 ChatGPT가 대중화되고 얼마 지나지 않아 관리 규정이 도입되었습니다.-일체 포함-php.cn

지난주 인기를 끌었던 인공지능 챗봇인 ChatGPT는 인공지능 질문과 답변의 트렌드를 선도했으며, 기술과 사용자 경험을 향상시킨 이전 "구식 인터넷 유명인"의 Deepfake 심층 합성 기술도 있습니다. 모두에게 많은 신선함을 가져다주었습니다.

그러나 인공지능 Q&A는 때로는 참과 거짓을 구별하기 어렵고, 때로는 윤리적 딜레마에 빠지기도 합니다. ChatGPT 개발자들은 합리적으로 보이지만 잘못된 답변, 답변이 너무 긴 경우, 모호한 질문에 답변할 때 사용자의 의도를 추측하는 경우, 유해한 지시에 대응하는 경우 등의 문제가 있다고 밝혔습니다.

인공지능 로봇 ChatGPT가 대중화되고 얼마 지나지 않아 관리 규정이 도입되었습니다.

Deepfake 기술은 일부 부도덕한 사람들이 불법적이고 유해한 정보를 생산, 복사, 게시, 유포하고 심지어 다른 사람의 신원을 사칭하여 사기를 저지르는 데 사용됩니다. Deepfake 기술의 가장 일반적인 남용은 일반적으로 "헤드 스와핑 비디오"로 알려진 비디오 위조로, 모조 개체의 비디오를 프레임 단위로 많은 수의 사진으로 변환한 다음 대상 모조 개체의 얼굴을 대상으로 대체합니다. 대상의 얼굴을 합성해 가짜 영상을 만드는 것. 2차 심층 합성 기술은 이 과정을 자동화하고 불법 범죄의 문턱을 더욱 낮출 수 있습니다.

최근 중국 사이버 공간 관리국 및 기타 3개 부서에서는 심층 합성 기술 및 서비스에 대한 관리 규정을 제공하는 "인터넷 정보 서비스 심층 합성 관리에 관한 규정"을 발표했습니다.

12월 11일 차이나넷콤(China Netcom)의 소식에 따르면, 중국 사이버공간관리국, 공업정보화부, 공안부가 최근 공동으로 '인터넷 정보 서비스의 심층 종합 관리에 관한 규정'을 발표했습니다. (이하 “규정”이라 한다) 2023년 1월부터 9월 10일부터 시행된다.

'규정'에는 심층 합성 서비스의 감독 및 관리 단위가 국가 사이버 공간 부서이며, 전국의 심층 합성 서비스에 대한 거버넌스와 관련 감독 및 관리를 조정하는 책임이 있다고 언급되었습니다. 국무원 통신부와 공안부는 각자의 책임에 따라 심층 합성 서비스의 감독 및 관리를 담당합니다.

"규정"에는 심층 합성 서비스 제공업체 및 기술 지원업체에 대한 자세한 요구 사항이 명시되어 있습니다. 심층 합성 서비스 제공자는 정보 보안에 대한 주요 책임을 이행하고 법률 및 계약에 따라 관리 책임을 수행하며 콘텐츠 관리 및 검토를 강화하는 동시에 심층 합성 서비스 기술 지원자와 사용자에게 눈에 띄는 방식으로 상기시켜야 합니다. 정보 보안 의무.

또한, 심층 합성 서비스 제공자 및 기술 지원자가 얼굴, 음성 등 생체 정보 편집 기능을 제공하는 경우 심층 합성 서비스 사용자에게 법에 따라 편집되고 있는 개인에게 알리고 별도의 정보를 얻어야 합니다. 동의.

대중의 혼란이나 오해를 유발할 수 있는 지능형 대화 쓰기, 합성 음성, 얼굴 생성 및 교체, 몰입형 시뮬레이션 장면 및 기타 심층 합성 서비스를 제공하는 심층 합성 서비스 제공자는 생성되거나 편집된 정보에 합리적인 콘텐츠를 사용해야 합니다. 및 영역은 대중에게 깊이 합성 상황을 상기시키기 위해 명확하게 표시됩니다.

사이버 보안 및 정보화 부서와 관련 관할 당국이 심층 합성 서비스에 상당한 정보 보안 위험이 있다고 판단하는 경우 심층 합성 서비스 제공자 및 기술 지원자에게 정보 업데이트, 사용자 계정 등록 또는 기타 관련 서비스를 중단하는 등의 조치를 취하도록 요구할 수 있습니다. 그들의 의무와 법률에 따라.

첨부된 "규정" 원문 :

인터넷정보서비스의 심층통합관리에 관한 규정

제1장 총칙

제1조 인터넷정보서비스의 심층통합관리를 강화하기 위하여 인터넷 정보 서비스, 사회주의 핵심 가치 증진, 국가 안보와 사회 수호 공공 이익, 공민, 법인 및 기타 조직의 정당한 권익 보호, "중화인민공화국 사이버 보안법", " 중화인민공화국 데이터 보안법', '중화인민공화국 개인정보 보호법', '인터넷 정보 서비스 관리 방법' 및 기타 법률 및 행정 규정을 통해 이러한 규정을 제정합니다.

제2조 중화인민공화국 영토 내에서 인터넷 정보 서비스(이하 심층합성 서비스라 함)를 제공하기 위해 심층합성 기술을 적용하는 경우 이 규정을 적용한다. 법률, 행정법규에 별도의 규정이 있는 경우 해당 규정에 따릅니다.

3조 국가 사이버 보안 및 정보화 부서는 전국 심층 합성 서비스에 대한 거버넌스 및 관련 감독 및 관리를 조정하는 역할을 담당합니다. 국무원 산하 통신부서와 공안부는 각자의 책임에 따라 심층 합성 서비스의 감독 및 관리를 담당합니다.

지역 사이버 공간 부서는 해당 행정 구역 내 심층 합성 서비스에 대한 거버넌스, 관련 감독 및 관리를 조정할 책임이 있습니다. 지방 통신 당국과 공안 부서는 각자의 책임에 따라 해당 행정 구역 내 심층 합성 서비스에 대한 감독 및 관리를 담당합니다.

제4조: 심층 합성 서비스를 제공하는 사람은 법률과 규정을 준수하고, 사회 도덕과 윤리를 존중하며, 올바른 정치적 방향, 여론 지도 및 가치 지향을 고수하고, 심층 합성 서비스를 선하게 추진해야 합니다.

제5조는 관련 산업 조직이 업계 자율성을 강화하고, 업계 표준, 업계 지침 및 자율 관리 시스템을 수립 및 개선하고, 심층 합성 서비스 제공자 및 기술 지원자가 비즈니스 사양을 공식화 및 개선하고, 비즈니스를 수행하도록 촉구하고 안내합니다. 법에 따라 사회적 감독을 받아들인다.

제2장 일반 조항

6조: 어떠한 조직이나 개인도 법률, 행정법규에서 금지하는 정보를 생산, 복사, 출판 또는 전파하기 위해 심층 합성 서비스를 사용할 수 없으며, 국가 안보와 이익을 위태롭게 하는 심층 합성 서비스를 사용해서는 안 됩니다. 또는 국가 이미지를 손상시키거나, 사회 공공 이익을 침해하거나, 경제 및 사회 질서를 파괴하거나, 타인의 정당한 권익을 침해하거나, 법률, 행정 법규에서 금지하는 기타 행위를 하는 행위입니다.

심층 합성 서비스 제공자 및 사용자는 허위 뉴스 정보를 생산, 복사, 게시 또는 유포하기 위해 심층 합성 서비스를 사용할 수 없습니다. 심층 합성 서비스를 기반으로 생산 및 발표된 뉴스 정보를 재인쇄하는 경우 인터넷 뉴스 정보 출처 단위에서 발표한 뉴스 정보는 법에 따라 재인쇄되어야 합니다.

제7조 심층 합성 서비스 제공업체는 정보 보안의 주요 책임을 이행하고, 사용자 등록, 알고리즘 메커니즘 검토, 기술 윤리 검토, 정보 공개 검토, 데이터 보안, 개인 정보 보호, 통신 네트워크 사기 방지, 긴급 대응 설정 및 개선을 수행해야 합니다. 등 안전하고 통제 가능한 기술적 보호 장치를 갖춘 관리 시스템입니다.

제8조 심층 합성 서비스 제공자는 관리 규칙 및 플랫폼 규칙을 제정 및 공개하고, 서비스 계약을 개선하고, 법률 및 계약에 따라 관리 책임을 수행해야 하며, 심층 합성 서비스 기술 지원자 및 사용자에게 정보 보안에 대해 눈에 띄게 상기시켜야 합니다. 은혜.

제9조 심층 합성 서비스 제공자는 휴대폰 번호, ID 번호, 통합 사회 신용 코드 또는 국가 네트워크 신원 인증 공공 서비스를 기반으로 법률에 따라 심층 합성 서비스 사용자의 실제 신원 정보를 인증해야 하며, 이를 제공해서는 안 됩니다. 실제 신원 정보 인증을 수행하는 심층 합성 서비스 사용자는 정보 게시 서비스를 제공합니다.

Article 10 심층 합성 서비스 제공자는 심층 합성 콘텐츠 관리를 강화해야 하며, 심층 합성 서비스 사용자의 입력 데이터 및 합성 결과를 검토하기 위한 기술적 또는 수동적 방법을 채택해야 합니다.

심층 합성 서비스 제공업체는 불법 및 유해 정보 식별을 위한 기능 라이브러리를 구축 및 개선하고, 창고 표준, 규칙 및 절차를 개선하고, 관련 네트워크 로그를 기록 및 유지해야 합니다.

심층 합성 서비스 제공자는 불법적이고 유해한 정보를 발견한 경우 법에 따라 처리 조치를 취하고 관련 기록을 보관하며 적시에 사이버 보안 및 정보화 부서 및 관련 관할 당국에 보고하고 경고 및 제한을 채택해야 합니다. 법률 및 계약에 따라 관련 심층 합성 서비스 사용자에 대한 기능, 서비스 일시 중지, 계정 폐쇄 및 기타 처분 조치를 취합니다.

제11조 심층 합성 서비스 제공자는 소문 반박 메커니즘을 구축하고 개선해야 합니다. 심층 합성 서비스가 허위 정보를 생성, 복사, 게시 또는 유포하는 데 사용된다는 사실을 발견한 경우 적시에 소문을 반박하고 관련 기록을 저장해야 합니다. , 사이버 보안 및 정보화 부서 및 관련 기관에 보고합니다.

제12조 심층합성 서비스 제공자는 사용자 불만사항과 대중 불만사항 및 신고를 접수할 수 있는 편리한 창구를 마련하고, 처리 절차와 피드백 기한을 공개하고, 결과를 신속하게 수용, 처리 및 피드백해야 합니다.

제13조 인터넷 애플리케이션 상점 및 기타 애플리케이션 배포 플랫폼은 목록 검토, 일상 관리, 긴급 대응 등 안전 관리 책임을 이행해야 하며, 관련 국가 규정을 위반하는 사람들은 보안 평가 및 심층 종합 애플리케이션 제출을 확인해야 합니다. 즉시 상장폐지, 경고, 서비스 정지, 삭제 등의 처분조치를 취해야 합니다.

3장 데이터 및 기술 관리 사양

Article 14 심층 합성 서비스 제공자와 기술 지원자는 훈련 데이터 관리를 강화하고 훈련 데이터에 개인 정보가 포함되어 있는 경우 개인 정보 보호를 준수해야 합니다. 규정.

심층합성 서비스 제공자 및 기술지원자가 얼굴, 음성, 기타 생체정보 편집 기능을 제공하는 경우, 심층합성 서비스 사용자에게 법에 따라 편집되고 있는 개인에게 이를 알리고 별도의 동의를 받아야 합니다.

Article 15 심층 합성 서비스 제공자와 기술 지원자는 기술 관리를 강화하고 생성된 합성 알고리즘의 메커니즘을 정기적으로 검토, 평가 및 검증해야 합니다.

심층 합성 서비스 제공자 및 기술 지원자가 다음 기능을 갖춘 모델, 템플릿 및 기타 도구를 제공하는 경우 자체적으로 보안 평가를 수행하거나 전문 기관에 위탁하여 법률에 따라 보안 평가를 수행해야 합니다.

(1) 생성 또는 편집 얼굴 및 음성과 같은 생체 인식 정보

(2) 국가 안보, 국가 이미지, 국익 및 사회적 공익과 관련될 수 있는 특수 개체 및 장면과 같은 비생체 정보를 생성하거나 편집합니다.

제16조 심층 합성 서비스 제공자는 자사 서비스를 사용하여 생성 또는 편집한 정보 콘텐츠에 사용자 사용에 영향을 주지 않는 식별 기능을 추가하고 법률, 행정 규정 및 관련 국가 규정에 따라 로그 정보를 저장하는 기술적 조치를 취해야 합니다.

제17조 심층합성 서비스 제공자는 다음과 같은 심층합성 서비스를 제공하여 대중의 혼란이나 오해를 유발할 수 있는 경우, 생성되거나 편집된 정보 내용을 합리적인 위치 및 영역에 눈에 띄게 표시하여 대중에게 심층합성 상황을 상기시켜야 합니다. :

(1) 텍스트 생성 또는 편집을 위해 자연인을 시뮬레이션하는 지능형 대화, 지능형 글쓰기 및 기타 서비스

(2) 합성 인간 음성, 모방과 같은 음성을 생성하거나 개인 신원 특성을 크게 변경하는 편집 서비스; (3) 개인 신원 특성을 크게 변화시키는 얼굴 생성, 얼굴 교체, 얼굴 조작, 자세 조작 및 기타 캐릭터 이미지 및 비디오 생성 또는 편집 서비스

(4) 몰입형 시뮬레이션 장면 생성 또는 편집 서비스;

(5) 정보 콘텐츠를 생성하거나 크게 변경하는 기능을 가진 기타 서비스.

심층 합성 서비스 제공자가 이전 단락에 명시된 것 이외의 심층 합성 서비스를 제공하는 경우 눈에 띄는 식별 기능을 제공하고 심층 합성 서비스 사용자에게 눈에 띄는 식별을 수행하도록 유도해야 합니다.

제18조 어떠한 조직이나 개인도 기술적 수단을 사용하여 본 규정 제16조 및 제17조에 명시된 심층 합성 로고를 삭제, 변조 또는 은폐할 수 없습니다.

제4장 감독, 검사 및 법적 책임

제19조 여론적 특성이나 사회동원 능력을 갖춘 심층종합서비스 제공자는 "인터넷 정보 서비스 알고리즘 추천 관리 규정"에 따라 등록, 변경, 등록 취소 절차를 수행해야 합니다. ".

심층합성 서비스의 기술지원자는 전항의 규정에 따라 등록, 변경 및 등록 취소 절차를 수행해야 합니다.

등록을 완료한 심층 합성 서비스 제공자 및 기술 지원자는 등록 번호를 표시하고 외부 서비스를 제공하는 웹사이트, 애플리케이션 등의 눈에 띄는 위치에 공개 정보 링크를 제공해야 합니다.

제20조: 여론 속성이나 사회 동원 능력을 갖춘 신제품, 새로운 애플리케이션 또는 새로운 기능을 개발 및 출시하는 심층 합성 서비스 제공업체는 관련 국가 규정에 따라 보안 평가를 수행해야 합니다.

제21조: 사이버 보안 및 정보화 부서, 통신 기관 및 공안 부서는 직무에 따라 심층 합성 서비스에 대한 감독 및 검사를 수행해야 합니다. 심층 합성 서비스 제공자와 기술 지원자는 법률에 따라 협력하고 필요한 기술, 데이터, 기타 지원 및 지원을 제공해야 합니다.

사이버 보안 및 정보화 부서와 관련 관할 당국이 심층 합성 서비스에 상당한 정보 보안 위험이 있다고 판단하는 경우 심층 합성 서비스 제공자 및 기술 지원자에게 정보 업데이트, 사용자 계정 등록 또는 기타 관련 서비스를 중단하는 등의 조치를 취하도록 요구할 수 있습니다. 그들의 의무와 법률에 따라. 심층 합성 서비스 제공자와 기술 지원자는 수정하고 숨겨진 위험을 제거하는 데 필요한 조치를 취해야 합니다.

제22조 심층합성 서비스 제공자 및 기술지원자가 본 규정을 위반할 경우, 관련 법률 및 행정법규에 따라 처벌되며, 심각한 결과를 초래할 경우 법률에 따라 엄중하게 처벌됩니다.

치안 관리 위반에 해당할 경우 공안 기관은 법에 따라 치안 관리 처벌을 부과하며, 범죄에 해당할 경우 법에 따라 형사 책임을 추궁합니다.