AI 계약 이론 ⑤: 생성적 AI는 수천 개의 돛과 경쟁하고 있으며, 규칙을 사용하여 '조종'하는 방법

21세기 비즈니스 헤럴드 기자 Cai Shuyue Guo Meiting 인턴 Tan Yanwen Mai Zihao가 상하이와 광저우에서 취재 중입니다

편집자 주:

2023년 최근 몇 달간 대기업들은 대형 모델 개발에 돌입하며 GPT 상용화를 모색하고 있으며, 컴퓨팅 인프라도 낙관적이다... 15세기에 열린 '발견의 시대'처럼 인간의 상호작용, 무역과 부는 폭발적인 성장을 경험했습니다. 우주 혁명이 세계를 휩쓸고 있습니다. 동시에 변화는 데이터 유출, 개인 정보 보호 위험, 저작권 침해, 허위 정보 등 질서에 대한 도전도 가져옵니다. 또한 AI가 가져온 포스트 휴머니스트 위기는 이미 사람들이 어떤 태도를 취해야 하는지를 논의하고 있습니다. 인간과 기계의 혼합으로 인한 신화에 직면하고 있습니까?

지금, AI 거버넌스에 대한 합의를 모색하고 새로운 질서를 재편하는 것은 모든 국가가 직면한 문제가 되었습니다. Nancai 규정 준수 기술 연구소는 AI 거버넌스에 대한 몇 가지 아이디어를 제공하기 위해 중국 및 외국 규제 모델, 주제 책임 할당, 코퍼스 데이터 규정 준수, AI 윤리, 산업 개발 및 기타 측면을 분석하는 AI 계약 이론에 대한 일련의 보고서를 출시할 예정입니다. 계획하고 책임 있는 혁신을 보장합니다.

자체 AI 기술의 대두는 '수백 모델의 전쟁'이라는 현 상황으로 이어졌고, 이 기술의 산업 체인 맵도 구체화되기 시작했습니다.

(AIGC 산업체인 지도. 도면/난차이 컴플라이언스 기술 연구소, 21세기 비즈니스 헤럴드 기자)

생성 AI가 일반적인 기술이 되기 전에 생산 체인의 모든 참가자는 이를 "제어 가능한" 도구로 만드는 방법을 고려해야 합니다.

올해 3월 말, Tesla CEO Elon Musk, Apple 공동 창립자 Steve Wozniak 및 천 명 이상의 기업가 및 학자들이 서명한 서한이 "대규모 인공 지능 실험을 중단했습니다"》공개 서한이 공개되었습니다.

서한에는 최근 몇 달 동안 전 세계 AI 연구소가 더욱 강력한 디지털 마인드를 개발하고 배포하기 위해 치열한 경쟁을 펼치고 있지만 "기술 개발자를 포함해 어느 누구도" 진정한 이해와 예측을 할 수 없다고 언급했습니다. 아니면 이 기술을 완전히 통제할 수도 있습니다.”

청화대학교 저널리즘 커뮤니케이션 학부 위안시 문화 연구소도 'AIGC 개발 연구' 보고서에서 AIGC가 글로벌 산업 체인에 강력하게 개입했으며 프로그래머, 그래픽 디자이너, 고객 서비스 및 기타 인력을 완전히 대체할 것이라고 지적했습니다. 작업을 수행하고 인건비 상한선을 설정하면 제3세계 산업 체인이 큰 영향을 받게 됩니다.

이는 대규모 컴퓨팅 파워가 뒷받침하는 AIGC가 다국적 기업의 글로벌 산업 사슬을 갈라놓는 날카로운 칼날이 될 수도 있고, '지구촌'이라는 환상을 자르는 단검이 될 수도 있다는 뜻이다.

따라서 AIGC의 급속한 발전과 함께 그 뒤에 있는 생성 AI 기술을 규제 케이지에 넣고 산업 체인의 모든 당사자의 책임을 명확히 하는 것이 전 세계 국가에서 처리해야 할 시급한 제안이 되었습니다.

규제 정책 검토: 산업 R&D에 대한 명확한 수익 창출

현재 우리나라는 생성 AI 기술 규제를 향한 길을 걷고 있습니다. 올해 4월, 중국 사이버 공간 관리국은 생성 AI 기술을 대상으로 하는 중국 최초의 규제 문서인 '생성 인공 지능 서비스 관리 조치(의견 초안)'(이하 '조치')를 발표했습니다. .

일반적으로 "대책"은 "인터넷 정보 서비스 심층 합성에 관한 관리 규정", "인터넷 정보 서비스에 대한 권장 알고리즘에 관한 관리 규정", "네트워크 관리 규정"을 규제하는 기존 심층 합성 규제 체계를 기반으로 합니다. 오디오 및 비디오 서비스', '네트워크 정보 서비스 관리 규정', '콘텐츠 생태 거버넌스 조항' 개선, 개인정보 보호에 대한 일반적인 의무 외에도 인공지능 서비스 제공자는 다음과 같은 의무도 추가로 이행해야 합니다. 보안 평가, 알고리즘 파일링 및 콘텐츠 식별.

위 관련 정책 문서의 공포와 관련하여 베이징 다청 법률 사무소의 수석 파트너 Xiao Sa는 21세기 비즈니스 헤럴드 기자와의 인터뷰에서 관련 기업이 기존 알고리즘 추천 서비스와의 연계에 주의를 기울여야 한다고 지적했습니다. 합성 서비스 및 기타 인공 지능 규제 규정 요구 사항을 충족하고, 내부 규정 준수를 달성하기 위해 노력하고, 기술과 법적 권한을 결합하여 창의적인 규정 준수 솔루션을 제안하며, 산업 발전을 위한 더 많은 제도적 공간을 확보합니다.

업계 대부분은 인공지능 기술 발전을 규제하기 위해 잇달아 도입된 '대책'과 기타 법안을 지지하는 자세로 지지하고 있다. Liangfengtai의 수석 제품 이사인 Wei Chaoqun은 21명의 기자와의 인터뷰에서 자신의 견해를 공유했습니다. 그는 생성 AI 기술이 막 시작되었을 때 관련 관리 방법의 구현이 전체 산업의 건전한 발전에 매우 중요하며 이러한 방법이 이를 촉진하는 데 중요한 역할을 할 것이라고 믿습니다.

"한편으로 "측정값"의 도입은 전체 업계가 기업을 위한 전체 R&D 프로세스 세트를 안내할 수 있는 명확한 운영 사양을 가지고 있음을 의미합니다. 다른 한편으로는 기업을 위한 R&D 수익도 설정합니다. 전체 산업에 대해 무엇을 해야 하고 무엇을 하지 말아야 하는지 나열합니다." Wei Chaoqun은 지적했습니다.

예를 들어, "조치" 제17조에서는 인공지능 서비스 제공업체가 "사전 훈련 및 최적화된 훈련의 소스, 규모, 유형, 품질 등에 대한 설명을 포함하여 사용자의 신뢰와 선택에 영향을 미칠 수 있는 필요한 정보를 제공해야 합니다"라고 규정하고 있습니다. 데이터, 수동 주석 규칙, 수동으로 주석을 단 데이터의 규모와 유형, 기본 알고리즘 및 기술 시스템 등"을 통해 대량의 데이터와 휘발성 규칙으로 인공 지능 기술의 거버넌스를 달성합니다.

그러나 현재 인공지능과 관련된 국내법, 규정, 정책문서는 여전히 더 개선되어야 한다고 생각하는 사람들도 있습니다.

샤오사는 인터뷰에서 '대책'이 생성 인공지능이 가져오는 위험과 영향에 대응했다고 언급했지만, 내용을 정리해보면 책임 대상, 적용 범위, 준수 의무 등. 규정은 비교적 광범위합니다.

예를 들어, '조치' 5조에서는 생성 인공지능 제품을 사용하는 서비스 제공자(즉, 주체)가 콘텐츠 제작자의 책임을 져야 한다고 규정하고 있습니다.

원본 기사에는 프로그래밍 가능한 인터페이스 및 기타 방법을 제공하여 다른 사람이 텍스트, 이미지, 사운드 등을 생성하도록 지원하는 것을 포함하여 생성 인공 지능 제품을 사용하여 채팅, 텍스트, 이미지 및 사운드 생성과 같은 서비스를 제공하는 조직 및 개인이 언급되어 있습니다. , 제품 생성 콘텐츠 제작자의 책임을 담당합니다. 그러나 '조치'에는 서비스 제공자가 져야 할 구체적인 법적 책임에 대해 아직 자세히 설명되어 있지 않습니다.

개발의 어려움: 규제와 기술의 균형을 맞추는 방법

기술 혁신과 발전을 전제로 인공지능 감독 시스템을 어떻게 개선하고, 데이터 컴플라이언스, 알고리즘 거버넌스와의 연계 및 조정을 강화할지는 현재 해결해야 할 시급한 과제입니다.

그 중 AIGC의 각 산업 체인 링크의 책임 주체를 명확히 하고 '책임 있는' AI 기술을 창출하는 것은 감독에 있어 세심한 주의가 필요한 핵심 포인트 중 하나입니다.

'조치' 제5조에 언급된 주체 책임 배분 문제에 더해, 최근 EU는 개정된 '인공지능법'에서도 다음과 같이 언급하고 있습니다. 인공지능 가치사슬 내 책임 배분 측면에서 , 모든 유통업체, 수입업체, 배포업체 또는 기타 제3자는 고위험 인공지능 시스템의 제공자로 간주되어야 하며 해당 의무를 수행해야 합니다. 예를 들어 위험성이 높은 인공지능 시스템의 이름과 연락처 정보를 표시하고, 데이터 사양이나 데이터 세트 관련 정보를 제공하고, 로그를 저장하는 등의 작업을 수행합니다.

Beijing Institute of Technology Law School의 조교수인 Pei Yi는 또한 21명의 기자들에게 AI 서비스 제공의 핵심 주체로서 기업이 한편으로는 투명한 데이터 수집 및 처리를 보장해야 한다고 지적했습니다. 데이터 수집 및 처리 목적의 데이터 주체, 필요한 동의 또는 승인을 얻습니다. 데이터의 기밀성과 무결성을 보장하기 위해 적절한 데이터 보안 및 개인정보 보호 조치를 구현합니다. 반면에 규정을 준수하는 데이터 공유도 필요합니다. 다자간 데이터 공유 또는 데이터 거래를 수행할 때 규정을 준수하는 데이터 사용 권한 및 승인 메커니즘을 보장하고 해당 데이터 보호 법률 및 규정을 준수하십시오.

21기자의 관찰에 따르면 현재 일부 인공지능 기업은 책임 주체로서의 의무를 명확히 하고 있는 것으로 나타났습니다.

예를 들어 OpenAI는 사용자를 위해 특별히 "보안 포털"을 개설했습니다. 이 페이지에서 사용자는 "데이터 보안" 및 "코드 분석, 자격 증명 관리"에서 백업, 삭제, 정적 암호화 정보를 포함한 회사의 규정 준수 문서를 찾아볼 수 있습니다. 애플리케이션 보안 등이 있습니다.

(OpenAI의 “보안 포털” 페이지. 출처/OpenAI 공식 홈페이지)

AI 페인팅 도구 Midjourney의 공식 웹사이트에서 공개한 개인 정보 보호 정책에는 사용자 데이터의 공유, 보관, 전송 시나리오 및 사용에 대한 구체적인 지침도 제공하는 동시에 그 필요성도 자세히 나열되어 있습니다. 이용자에게 서비스를 제공하는 과정에서 로고, 사업정보, 생체정보 등 11종의 개인정보를 수집합니다.

상하이의 한 신흥 기술 기업의 법률 담당자가 기자 21명과의 대화에서 회사 내부 인공지능 관련 사업에 대한 서비스 약관이 현재 제정 중이라고 밝혔습니다. 책임 할당은 OpenAI의 관행을 기반으로 합니다.

한편, 생성 AI 서비스 제공업체로서

기업은 내부 규정 준수에도 주의를 기울여야 합니다. Xiao Sa는 AIGC 관련 기업의 비즈니스는 대규모 데이터와 복잡한 알고리즘에 의존해야 하며, 적용 시나리오가 복잡하고 다양하기 때문에 전적으로 의존하기는 매우 어렵다고 지적했습니다. 따라서 관련 기업은 AIGC 내부 준법관리를 강화해야 합니다.

한편으로 규제 기관은 기업 규정 준수 개혁을 포괄적으로 시행하고, 온라인 디지털 분야에서 기업 규정 준수 개혁 추진을 적극적으로 모색하고, 제3자 감독 및 평가 메커니즘을 구현하고, 규정 준수 관리 시스템 및 메커니즘을 구축 및 개선할 기회를 가져야 합니다. , 온라인 범죄를 효과적으로 예방합니다. 한편, 사후 준수 시정을 통해 사전 준수 구축을 촉진하기 위한 규제 경로도 적극적으로 모색해야 하며, 디지털 환경의 건전한 발전을 보장하기 위해 네트워크 규제 기관과 인터넷 기업이 데이터 준수 지침을 공동으로 연구하고 제정하도록 장려해야 합니다. 경제.

"규제 당국의 가장 중요한 임무는 수익을 도출하는 것입니다.

그 중 '기술 윤리'와 '국가 안보'는 양도할 수 없는 두 가지 수익입니다. 수익 내에서 우리는 업계에 최대한 많은 혜택을 제공하려고 노력할 수 있습니다. 기술은 규정 준수를 위해 개발에 소심하고 제한되어 있습니다.”라고 Pei Yi는 21명의 기자에게 말했습니다.

코디네이터: 왕준

기자: Guo Meiting, Cai Shuyue, Tan Yanwen, Mai Zihao

그림: Cai Shuyue

더 많은 콘텐츠를 보려면 21 Finance APP을 다운로드하세요

위 내용은 AI 계약 이론 ⑤: 생성적 AI는 수천 개의 돛과 경쟁하고 있으며, 규칙을 사용하여 '조종'하는 방법의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!