인공지능 시대 알고리즘 거버넌스의 핵심과 길

2021년 12월 말, 4개 부처가 공동으로 '인터넷 정보 서비스 알고리즘 추천 관리 규정'('알고리즘 추천 관리 규정')을 체결, 발표했으며, 이는 2022년 3월 1일 정식 시행됐다. 이를 바탕으로 알고리즘 거버넌스의 기본 핵심을 더욱 명확히 하고, 알고리즘 시대 거버넌스의 새로운 길을 모색할 필요가 있다.

1. 중국의 현재 알고리즘 거버넌스 법률 시스템

우리 나라의 현재 알고리즘 거버넌스 입법 시스템은 초기에 확립되어 광범위한 입법 수준, 다부처 연결 및 급속한 확장을 갖춘 법률 시스템을 구축했습니다. . 법제 감독은 기존의 네트워크 보안, 데이터 정보 보호 중심에서 현재의 심층 거버넌스, 즉 인공지능 시대의 알고리즘 거버넌스로 전환되었습니다.

최상위 설계 측면에서 "법조사회 구축을 위한 구현개요(2020~2025)"에서는 알고리즘 추천, 심층위조 등 신기술 적용을 위한 표준화된 관리 방식을 제시하고 있다. 또한, '디지털 경제 발전을 위한 14차 5개년 계획'에서는 컴퓨팅 파워, 알고리즘, 데이터 및 응용 자원의 시너지를 갖춘 국가 통합 빅데이터 센터 시스템 구축을 가속화할 것을 명시하고 있습니다.

법률 및 규제 근거 측면에서 민법, 사이버 보안법, 데이터 보안법, 개인 정보 보호법 및 인터넷 정보 서비스 관리 조치는 각각 인격권, 네트워크 보안, 데이터 보안, 정보 보호 및 활용, 인터넷 서비스 및 기타 측면의 관점에서 조정된 규정이 수행되었습니다.

알고리즘 전문 규제 방향으로는 2021년 9월에 발표된 부서별 규범문서 "인터넷 정보 서비스 알고리즘 종합 관리 강화에 관한 지침"과 2022년에 발표된 "알고리즘 관리 규정"이 있는데, 이는 알고리즘 관련 사양을 포괄적으로 담고 있습니다. .

기타 규범 문서나 국가 표준의 경우 국무원의 '플랫폼 경제에 대한 독점 금지 지침'과 같이 많은 부서에서 기계 학습, 인공 지능 윤리, 정보 합성, 플랫폼 감독 등에 대한 간접적인 규정을 두고 있습니다. 반독점위원회" "국가시장감독관리총국, 중국 사이버관리국, 국가발전개혁위원회, 공안부, 인적자원사회보장부, 상무부, 온라인 케이터링 플랫폼의 책임을 이행하고 음식 배달 근로자의 권익을 효과적으로 보호하는 중국 전 노동 조합 연맹 "차세대 인공 지능 윤리 강령", "인터넷 정보 서비스 심층 종합 관리에 관한 규정 (초안) 의견)', '정보보호기술 머신러닝 알고리즘 보안평가 기준(의견용 초안)', '정보보호기술 개인정보보호 기준' 등이 있다.

다양한 차원에서 입법을 시행했지만, 현재의 알고리즘 관련 입법 체계에는 여전히 문제가 있습니다. 첫째, 입법 수준이 분권화되어 주로 부서별 규범 문서에 중점을 둡니다. 법률 및 규정을 제정하는 데 소요되는 시간은 부서별 규정 및 다양한 규범 문서에 비해 상당히 높으며, 이는 현재 알고리즘이 부처별 규범 문서 및 국가 표준에서 새로운 문제로 등장하게 되었으며, 이는 강제성이 부족하고 취약합니다. 집행 및 감독 효과가 저하됩니다. 부서 책임이 명확하지 않은 등의 문제가 있습니다. 동시에 여러 부서의 규범 문서로 인해 플랫폼 회사는 적응할 수 없고 기준이 일관되지 않으며 특별한 조치 스타일의 비상 대응이 필요하게 되었습니다. 둘째, 플랫폼에 대한 감독은 사후적으로 소극적인 경우가 많으며, 정교한 플랫폼 감독 규정이 부족하다. 플랫폼 감독은 주로 플랫폼의 잘못, 행위 및 책임에 따라 행정적 처벌 조치를 취합니다. 그러나 이 감독 모델에는 사전 프로세스 감독이 부족합니다. 알고리즘 파일링 시스템이 있더라도 주로 특정 중요 사항에 대한 알고리즘 파일링에 머물러 있습니다. 알고리즘 검토 논리와 등록 기준도 알고리즘 분류 시스템에 따라 적시에 조정되어야 합니다. 셋째, 알고리즘의 기술 사양에 대한 감독이 거의 없으며, 알고리즘의 기원으로 돌아가는 입법이 부족합니다. 알고리즘은 "계산 방법" 또는 "데이터 처리 방법"을 의미하는 기술적 개념입니다. 동시에 알고리즘에도 일정한 학습 능력이 있으며 기존 알고리즘 기반과 데이터를 기반으로 지속적으로 발전할 수 있습니다. 이러한 컴퓨터 명령어의 기술 사양에 대한 법적 사양은 아직 부족합니다. 현재 주요 규정은 네트워크 보안 및 법적 위험의 관점에서 규제됩니다.

2. 알고리즘 거버넌스의 핵심, 경로 및 시스템 구축

알고리즘 관련 입법 체계의 개선을 촉진하고 알고리즘의 정확한 거버넌스를 달성하기 위해 저자는 알고리즘 거버넌스의 핵심이 데이터 정보 보안에 있다고 믿습니다. 한편, 알고리즘은 본질적으로 AND, OR, NOT의 논리적 연산인 자연어를 기반으로 구성된 일련의 프로그램 논리입니다. 그러나 알고리즘이 아무리 복잡하더라도 그 본질은 "데이터로 훈련된 모델"이기도 합니다. 즉, 알고리즘의 지속적인 작동과 진화는 지속적으로 데이터를 공급함으로써 달성됩니다. 알고리즘은 데이터 지원과 분리될 수 없습니다. 데이터 처리 활동에 문제가 있으면 필연적으로 알고리즘에도 문제가 발생합니다. 따라서 알고리즘 거버넌스에 주의를 기울이는 핵심은 데이터의 보안과 합리적인 처리입니다.

한편, 자동화된 의사결정 알고리즘으로 인해 발생하는 '빅데이터 킬링'과 같은 법적 위험이 점점 더 사회적 주목을 받고 있는데, 이는 알고리즘 거버넌스의 본질이 정보의 합리적인 사용에 있음을 보여줍니다. 게다가, 알고리즘의 영혼은 긍정적인 가치에 있습니다. 데이터 정보의 사용 및 처리는 긍정적인 가치를 추구하고 검증 가능, 감사 가능, 감독 가능, 추적 가능, 예측 가능, 신뢰할 수 있으면서도 포용적이고 공정하며 비차별적인 알고리즘을 점진적으로 실현해야 합니다.

데이터 정보 보안에는 데이터 보안과 정보 보안이라는 두 가지 주요 부분이 포함됩니다. 데이터 보안은 데이터 처리 활동을 규제하고, 데이터 보안을 보장하고, 모든 당사자의 이익을 보호하고, 데이터 개발 및 활용과 산업 발전을 보장하는 것입니다. 정보보안은 '개인정보보호법'을 주체로 개인정보의 처리활동을 규제하고 개인정보의 합리적인 이용을 촉진하며 개인정보를 엄격하게 보호합니다.

알고리즘 거버넌스의 핵심을 명확히 해야만 입법 규제 및 감독에 초점을 맞출 수 있으며, 현재 실무에서 발생하는 알고리즘 거버넌스의 딜레마에 대한 새로운 솔루션을 얻을 수 있습니다. 인공지능의 발전은 물론 경제와 사회 전체도 방대한 데이터와 개인정보의 채워짐과 불가분의 관계에 있습니다. 자동화된 의사결정 알고리즘은 데이터 정보를 최대한 활용하여 더 큰 경제적, 사회적 가치를 발휘합니다. 따라서 저자는 알고리즘 거버넌스를 위한 "내부 2개, 외부 1개" 보장 경로가 구축되어야 한다고 생각합니다. 두 가지 내부 요소는 개인 정보 보호를 강화하고 데이터의 폭, 깊이 및 정확성을 확장하는 것이며, 첫 번째 확장 보장은 다음과 같습니다. 알고리즘 보안 보장 메커니즘.

먼저, 개인정보 보호를 강화하세요.민법상 개인정보 보호에 관한 조항은 인격권 조항에 포함되어 있어 개인정보 보호의 중요성을 충분히 보여줍니다. 현재 주요 플랫폼의 개인 정보 보호 정책은 조정 및 업데이트되고 있으며, 이번 업데이트로 인해 관련 플랫폼의 무질서한 알고리즘 개발에 더 많은 제한이 가해질 것입니다. 개인정보 보호와 알고리즘 개발은 상대적입니다. 개인정보 보호를 강화하면 알고리즘의 다각화된 개발이 저해될 수밖에 없습니다. 그러나 알고리즘이 타인의 정당한 권익을 침해하지 않는다는 것은 바로 개인정보 보호의 중요성에 기초합니다. 개인정보 보호 강화는 다음과 같은 점에서 시작할 수 있습니다.

첫째, 개인정보 보호 강화는 입법 내용, 알고리즘 설계 및 적용, 제출 및 검토, 법집행 감독 중점, 법적 책임 등에 반영됩니다. 이것이 기본 개념이자 결론입니다. 원칙적으로 알고리즘 거버넌스.

둘째, 핵심 집단, 특히 14세 미만의 미성년자, 노인, 근로자, 소비자의 개인정보 보호를 강화하는 것도 매우 중요합니다. 정보 보호 및 데이터 처리는 민법의 개인 정보 보호 관련 조항과 개인 정보 보호법의 민감한 개인 정보에 대한 관련 조항에 따라 수행됩니다. 개인정보 처리 활동은 개인정보 처리의 5대 중요원칙을 준수함은 물론, 개인정보 처리핵심 원칙인 '알림-알림-동의'를 준수합니다.

셋째, 개인 정보 보호에 관한 분쟁은 주로 사법 구제를 통해 해결되는 반면, 알고리즘 거버넌스와 관련된 개인 정보 보호 문제는 필연적으로 더 많은 공법 구제 채널과 결합되어야 합니다. 따라서 더 많은 공법 거버넌스 알고리즘이 개인 정보 보호에 주의를 기울여야 합니다. . 전통적인 보호 속성과 공법 및 사법 거버넌스의 통합.

두 번째는 데이터의 폭과 깊이, 정확성을 넓히는 것입니다.알고리즘 거버넌스는 결코 규제적 처벌을 지나치게 강조하는 것이 아니라, 사전 전반적인 관리를 강조하는 것입니다. 딥러닝과 같은 자동화된 의사결정에는 엄청난 양의 데이터 공급이 필요합니다. 데이터 양이 부족하고 데이터가 부정확하면 알고리즘이 잘못된 방향으로 계산하게 됩니다. 예를 들어, 기업이 '사용자 프로파일링'을 실시할 때 사용자 데이터베이스가 작거나 특정 차원의 데이터가 누락된 경우 관련 정보를 정확하게 푸시하거나 해당 서비스를 제공하는 것이 불가능합니다. 데이터의 폭, 깊이, 정확성을 확장할 때 법적 데이터 처리 활동에 의해 제한되어야 합니다. 이 문제를 해결하기 위한 핵심 사항은 다음과 같습니다.

먼저, 데이터 보안을 보장하기 위해 데이터 확장 프로세스가 먼저입니다. 데이터 보안은 알고리즘을 보장할 수 있습니다. 보안과 안정성은 데이터 처리의 초석입니다.

둘째, 중요한 데이터와 데이터에 대해 계층적이고 분류된 관리 시스템을 구축합니다. 대량의 데이터가 유입되면 알고리즘의 기본 순서가 흐트러질 수 있으므로 데이터의 계층적 분류는 주요 플랫폼, 특히 초대형 플랫폼에서는 표준화가 필요한 부분입니다.

셋째, 알고리즘에 검증 및 오류 수정 메커니즘을 구축합니다. 즉, 무작위 검사 메커니즘, 결과 경고 등 데이터 품질을 검증하여 적시에 수정될 수 있도록 데이터 결함을 발견합니다. .

세 번째는 알고리즘 보안 메커니즘입니다.개인정보 보호와 데이터라는 처음 두 가지 기반을 바탕으로 알고리즘 보안 메커니즘을 개선하는 것이 특히 중요합니다. 안전 보장 메커니즘에는 과학 기술 윤리 검토, 입법 보장, 안전 평가 및 모니터링, 안전 사고에 대한 긴급 대응 등이 포함되어 기술, 법률 및 관리에 대한 다중 보장을 구성합니다. 구체적인 조치에는 다음이 포함됩니다.

첫째, 알고리즘이 좋습니다. 알고리즘 등록 검토의 기본은 과학적이고 기술적인 윤리 검토에 있습니다. 현재의 알고리즘 규칙 검토가 합리적이라고 하더라도 알고리즘 자체의 확장으로 인해 불일치가 발생하기 때문에 이번 검토의 어려움은 알고리즘의 예측 불가능성에 있습니다. 알고리즘의 결과, 확실성. 따라서 기술, 법률 및 기타 분야의 전문가는 물론 규제 당국 및 제3자 업계 대표로 구성된 알고리즘 윤리 실무 그룹과 유사한 전문 조직을 설립하여 정기적인 검토 및 후속 감독을 강화하고 엄격한 예방 조치를 취해야 합니다. 알고리즘 값에 문제가 있습니다.

두 번째, 입법적 보호입니다.현재 알고리즘 거버넌스에 대한 입법 최상위 설계가 점차 완료되었습니다. 다음으로, 알고리즘 추천 관리 외에도 알고리즘 기술 연구 및 개발, 데이터 마이닝, 규칙 콘텐츠, 운영 등 다른 알고리즘 활동에 주의를 기울여야 합니다. 지원, 인사 관리 및 기타 다각적 구축 알고리즘 거버넌스의 새로운 환경.

셋째, 안전평가 모니터링, 안전사고 비상대응 등 관리시스템과 기술적 조치를 개선합니다.기업은 알고리즘 보안에 대한 주요 책임을 이행하고, 알고리즘 보안을 위한 첫 번째 방어선을 지키고, 알고리즘 메커니즘 메커니즘 검토를 수립 및 개선해야 합니다. 규제 당국과 업계 조직의 경우 알고리즘 보안을 위한 업계 표준 시스템을 공식화하고, 알고리즘 보안의 기본 개념을 홍보하며, 사회 전체를 위한 다채널 감독 세력을 형성해야 합니다.

알고리즘화 시대는 사회 각계각층에 지대한 영향을 미쳤으며, 현재의 조직 형태에도 새롭고 역동적인 변화를 가져왔습니다. 알고리즘 남용으로 인한 문제는 업계에서 클 수 있습니다. 알고리즘 거버넌스는 알고리즘 개발과 동시에 수행되어야 하며, 알고리즘 거버넌스를 위한 "내부 2개 및 외부 1개" 보증 경로를 효과적으로 구축하고, 좋은 디지털 비즈니스 환경을 구축하고, 이를 촉진해야 합니다. 디지털 경제와 사회의 꾸준한 건강이 발전합니다.

위 내용은 인공지능 시대 알고리즘 거버넌스의 핵심과 길의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!