얼굴 인식 기술의 윤리 원칙

다양한 분야에서 얼굴 인식 기술의 엄청난 잠재력은 거의 상상할 수 없습니다. 그러나 가장 복잡한 응용 프로그램을 구현하기 전에 기능상의 특정 일반적인 함정과 일부 윤리적 고려 사항을 해결해야 합니다.

정확한 얼굴 인식 시스템은 생체 인식 기술을 사용하여 사진이나 비디오에서 얼굴 특징을 그립니다. 이 정보를 알려진 얼굴 데이터베이스와 비교하여 일치하는 항목을 찾습니다. 얼굴 인식은 개인의 신원을 확인하는 데 도움이 될 수 있지만 개인 정보 보호 문제도 발생합니다.

몇십 년 전만 해도 우리는 얼굴 인식이 앞으로 우리 삶에 거의 없어서는 안 될 부분이 될 것이라고는 예상하지 못했습니다. 스마트폰 잠금 해제부터 온라인(또는 오프라인) 거래까지 이 기술은 우리 일상생활에 깊숙이 자리잡고 있습니다. 이는 인공 지능의 컴퓨터 비전과 기계 학습 구성 요소를 놀라운 방식으로 적용한 것입니다.

얼굴 인식 시스템은 다음과 같이 작동합니다.

훈련된 알고리즘은 눈 사이의 픽셀 수나 입술의 곡률과 같은 사람 얼굴의 다양한 고유한 세부 사항을 결정하고 이를 다른 세부 사항 중에서 논리적으로 해석하여 재구성합니다. 시스템 속의 얼굴. 이렇게 재구성된 얼굴은 시스템 데이터베이스에 저장된 대규모 얼굴 세트와 비교됩니다. 알고리즘이 재현된 얼굴이 데이터베이스에 있는 얼굴과 수학적으로 일치함을 감지하면 시스템은 이를 "인식"하고 사용자의 작업을 수행합니다.

전체 프로세스를 몇 나노초 안에 완료하는 것 외에도 오늘날의 얼굴 인식 시스템은 저조도, 열악한 이미지 해상도 및 시야각에서도 작동할 수 있습니다.

다른 인공 지능 기술과 마찬가지로 얼굴 인식 시스템도 다양한 목적으로 사용될 때 몇 가지 윤리적 원칙을 따라야 합니다. 이러한 규정에는 다음이 포함됩니다.

1. 얼굴 인식의 공정성

먼저, 얼굴 인식 장치는 인종, 성별, 얼굴 특징, 기형에 따른 차별을 완전히 방지하거나 최소한 최소화하는 방식으로 개발되어야 합니다. 또는 개인이나 집단에 대한 기타 편견. 이제 얼굴 인식 시스템이 100% 공정하게 작동할 가능성이 낮다는 충분한 증거가 있습니다. 결과적으로 이 기술을 지원하는 시스템을 구축하는 회사는 시스템에서 발견된 모든 편견의 흔적을 제거하는 데 수백 시간을 소비하는 경우가 많습니다.

Microsoft와 같은 평판이 좋은 조직은 가능한 한 많은 소수 민족 커뮤니티에서 자격을 갖춘 전문가를 고용하는 경우가 많습니다. 얼굴 인식 시스템의 연구, 개발, 테스트 및 설계 단계에서 다양성 덕분에 AI 데이터 모델을 교육하기 위한 대규모 데이터 세트를 생성할 수 있었습니다. 대규모 데이터 세트는 편향 지수를 감소시키지만 다양성도 상징적입니다. 전 세계에서 개인을 선택하면 현실 세계의 다양성을 반영하는 데 도움이 됩니다.

얼굴 인식 시스템에서 편견을 없애기 위해 조직은 추가적인 노력을 기울여야 합니다. 이를 달성하려면 기계 학습 및 라벨링에 사용되는 데이터 세트가 다양해야 합니다. 가장 중요한 것은 공정한 안면 인식 시스템의 출력 품질이 믿을 수 없을 정도로 높을 것이라는 점입니다. 편견의 요소 없이 전 세계 어디에서나 원활하게 작동하기 때문입니다.

얼굴 인식 시스템의 공정성을 보장하기 위해 개발자는 베타 테스트 단계에서 최종 고객을 참여시킬 수도 있습니다. 실제 시나리오에서 이러한 시스템을 테스트할 수 있으면 해당 기능의 품질만 향상됩니다.

2. 인공 지능 내부 작동의 개방성

직장에서 얼굴 인식 시스템과 사이버 보안 시스템을 사용하는 조직은 기계 학습 정보가 저장되는 위치에 대한 모든 세부 정보를 알아야 합니다. 이러한 조직은 일상적인 작업에 기술을 구현하기 전에 기술의 한계와 기능을 이해해야 합니다. AI 기술을 제공하는 회사는 이러한 세부 사항을 고객에게 완전히 투명하게 공개해야 합니다. 또한 서비스 제공업체는 고객이 어느 위치에서나 편리하게 얼굴 인식 시스템을 사용할 수 있도록 해야 합니다. 시스템의 모든 업데이트는 계속 진행하기 전에 클라이언트의 유효한 승인을 받아야 합니다.

3. 이해관계자에 대한 책임

앞서 언급했듯이 얼굴 인식 시스템은 여러 부서에 배포됩니다. 그러한 시스템을 제조하는 조직은 특히 해당 기술이 개인이나 그룹(법 집행, 감시)에 직접적인 영향을 미칠 가능성이 있는 경우 이에 대해 책임을 져야 합니다. 이러한 시스템의 책임은 신체적 또는 건강상의 피해, 재정적 유용 또는 시스템에서 발생할 수 있는 기타 문제를 방지하기 위한 사용 사례를 포함하는 것을 의미합니다. 프로세스에 제어 요소를 도입하기 위해 자격을 갖춘 개인이 조직의 시스템을 담당하여 측정되고 논리적인 결정을 내립니다. 이 외에도 얼굴 인식 시스템을 일상 업무에 통합하는 조직은 기술에 대한 고객 불만을 즉시 해결해야 합니다.

4. 모니터링 전 동의 및 알림

일반적인 상황에서 개인이나 그룹의 동의 없이 얼굴 인식 시스템을 사용하여 개인, 그룹 또는 기타 행위를 감시할 수 없습니다. 유럽 ​​연합(EU)과 같은 일부 기관에는 승인되지 않은 조직이 통치 기관의 관할권 내에 있는 개인을 감시하는 것을 방지하기 위해 표준화된 법률(GDPR)이 있습니다. 이러한 시스템을 갖춘 조직은 모든 ​​미국 데이터 보호 및 개인정보 보호법을 준수해야 합니다.

5. 인권 침해를 방지하기 위한 합법적인 감시

국가 안보 또는 기타 중요한 상황과 관련된 목적으로 국가 정부 또는 결정적인 규제 기관의 승인을 받지 않는 한 조직은 얼굴 인식 시스템을 사용하여 사람이나 사람을 모니터링할 수 없습니다. 그룹. 기본적으로 이 기술이 피해자의 인권과 자유를 침해하는 데 사용되는 것은 엄격히 금지됩니다.

안면인식 시스템은 이러한 규정을 예외 없이 준수하도록 프로그래밍되어 있지만, 작동 오류로 인해 문제가 발생할 수 있습니다. 이 기술과 관련된 몇 가지 주요 문제는 다음과 같습니다.

6. 구매 시 확인 오류

앞서 언급했듯이 얼굴 인식 시스템은 사용자가 거래를 확인할 수 있는 디지털 결제 앱에 포함되어 있습니다. 이 기술의 존재로 인해 얼굴 신원 도용, 직불카드 사기 등 결제 목적의 범죄 행위가 발생할 가능성이 매우 높습니다. 고객은 사용자에게 큰 편의성을 제공하기 때문에 얼굴 인식 시스템을 선택합니다. 그러나 이러한 시스템에서는 일란성 쌍둥이가 서로의 은행 계좌에서 승인되지 않은 결제를 할 때 실수가 발생할 수 있습니다. 우려되는 점은 얼굴 인식 시스템에 보안 프로토콜이 마련되어 있음에도 불구하고 얼굴 복사로 인해 자금이 유용될 수 있다는 것입니다.

7. 법 집행 애플리케이션의 부정확성

얼굴 인식 시스템은 공공 범죄자를 체포하기 전에 식별하는 데 사용됩니다. 개념으로서의 기술은 의심할 여지 없이 법 집행에 유용하지만, 그 작동에는 몇 가지 명백한 문제가 있습니다. 범죄자는 여러 가지 방법으로 이 기술을 악용할 수 있습니다. 예를 들어 편향된 AI라는 개념은 시스템이 때때로 유색인종을 구별하지 못하기 때문에 법 집행관에게 부정확한 결과를 제공합니다. 일반적으로 이러한 시스템은 백인 남성의 이미지가 포함된 데이터 세트로 훈련됩니다. 따라서 다른 인종의 사람들을 식별하는 데 있어서 시스템이 작동하는 방식은 잘못된 것입니다.

첨단 안면인식 시스템을 사용해 민간인을 불법적으로 감시했다는 혐의로 기관이나 공공기관이 기소된 사례가 여러 건 있었습니다. 지속적인 감시를 받는 개인이 수집한 비디오 데이터는 다양한 사악한 목적으로 사용될 수 있습니다. 얼굴 인식 시스템의 가장 큰 단점 중 하나는 제공되는 출력이 너무 일반적이라는 것입니다. 예를 들어, 어떤 사람이 중범죄를 저지른 것으로 의심되는 경우, 그 사람의 사진을 촬영하고 여러 범죄자의 사진과 함께 실행하여 그 사람에게 범죄 기록이 있는지 확인합니다. 그러나 이 데이터를 함께 쌓는다는 것은 얼굴 인식 데이터베이스가 해당 남성과 경험이 풍부한 중범죄자의 사진을 보관한다는 것을 의미합니다. 따라서 개인이 상대적으로 결백하더라도 개인의 사생활이 침해되는 것입니다. 둘째, 그 사람은 모든 면에서 결백함에도 불구하고 나쁜 시각으로 비춰질 수 있습니다.

앞서 언급했듯이 얼굴 인식 기술과 관련된 주요 문제와 오류는 기술 발전 부족, 데이터 세트의 다양성 부족, 조직의 비효율적인 시스템 처리에서 비롯됩니다. 그러나 인공지능의 적용 범위와 실생활에의 적용 범위는 무한해야 한다. 안면 인식 기술과 관련된 위험은 기술이 실제로 필요한 것과 동일한 방식으로 작동하지 않을 때 발생하는 경우가 많습니다.

그러나 앞으로도 지속적인 기술 발전으로 기술 관련 문제는 해결될 것으로 예상됩니다. AI 알고리즘의 편향과 관련된 문제는 결국 제거될 것입니다. 그러나 이 기술이 윤리적 규범을 위반하지 않고 완벽하게 작동하려면 조직은 해당 시스템에 대해 엄격한 수준의 거버넌스를 유지해야 합니다. 거버넌스가 강화되면 향후 얼굴 인식 시스템 버그가 해결될 수 있습니다. 따라서 긍정적인 솔루션을 얻으려면 이러한 시스템의 연구, 개발 및 설계를 개선해야 합니다.

위 내용은 얼굴 인식 기술의 윤리 원칙의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!