유럽의 새로운 인공 지능 법안은 윤리적 검토를 강화할 것입니다

EU가 모든 산업 분야에서 인공 지능 및 기계 학습 기술의 사용을 효과적으로 규제하는 인공 지능 법안의 시행을 향해 나아가면서 인공 지능 윤리 문제(예: 편견, 투명성 및 설명 가능성)가 점점 더 중요해지고 있습니다. 사용. AI 전문가들은 지금이 AI 사용자들이 윤리적 개념을 익히기에 좋은 시기라고 말한다.

최신 버전의 유럽 인공지능법은 작년에 도입되었으며 현재 검토 과정을 빠르게 진행 중이며 이르면 2023년부터 시행될 수 있습니다. 법이 아직 개발되는 동안 유럽연합 집행위원회는 인공지능 규제에 진전을 이룰 준비가 되어 있는 것으로 보입니다.

예를 들어, 법은 인공 지능 시스템 사용에 대한 새로운 요구 사항을 설정하고 특정 사용 사례를 완전히 금지합니다. 자율주행차, 교육, 이민, 취업을 위한 의사결정 지원 시스템 등 이른바 고위험 AI 시스템에서는 사용자가 AI 애플리케이션에 대한 영향 평가와 감사를 수행해야 한다. 일부 AI 사용 사례는 데이터베이스에서 면밀히 추적되는 반면, 다른 사용 사례는 사용하기 전에 외부 감사자의 승인이 필요합니다.

펜실베니아주 뉴타운에 본사를 둔 소프트웨어 엔지니어링 회사인 EPAM Systems의 데이터 분석 컨설팅 이사인 Nick Carrel은 MLOps 참여 또는 데이터 과학 컨설팅 참여의 일환으로 설명 불가능성과 설명 가능성이 크게 필요하다고 말했습니다. EU의 인공 지능 법안은 또한 기업들이 윤리적 AI에 대한 통찰력과 답변을 찾도록 촉구하고 있다고 그는 말했습니다.

"현재 머신러닝 모델을 운영하는 과학인 ML Ops에 대한 수요가 많습니다. 우리는 윤리적 AI를 이 프로세스의 핵심 기반 중 하나로 보고 있습니다."라고 Carrel은 말했습니다. "우리는 고객으로부터 추가 요청을 받았습니다... 올해 말에 발효될 인공 지능 시스템에 관한 다가오는 EU 법률에 대해 알고 준비하고 싶어하는 고객입니다.

설명 불가능성과 설명 가능성은 별개이지만." 관련 개념. 모델의 해석 가능성은 모델이 어떤 결정을 내릴지 인간이 이해하고 예측할 수 있는 정도를 나타내며, 설명 가능성은 모델이 실제로 어떻게 작동하는지 정확하게 설명하는 능력을 나타냅니다. EPAM Systems의 데이터 과학 및 기계 학습 책임자인 Andrey Derevyanka는 다른 하나 없이도 하나만 가질 수 있다고 말합니다.

"두 가지 액체를 혼합하는 화학 실험 같은 실험을 하고 있다고 상상해 보세요. 이 실험은 해석이 가능합니다. 왜냐하면 여기서 무엇을 하고 있는지 알 수 있기 때문입니다. 물체를 가져다가 다른 항목을 추가하면 결과를 얻을 수 있습니다." Derevyanka가 말했다. "하지만 이 실험을 해석하려면 화학 반응을 알아야 하고, 반응이 어떻게 생성되는지, 어떻게 작동하는지 알아야 하며, 과정의 내부 세부 사항을 알아야 합니다."

Derevyanka는 에서 말했습니다. 특히, 딥러닝 모델은 설명할 수 있지만 특정 상황을 설명할 수는 없습니다. "블랙박스가 있고 특정 방식으로 작동하지만 그 안에 무엇이 있는지는 알 수 없습니다."라고 그는 말했습니다. "그러나 설명할 수는 있습니다. 이 입력을 제공하면 이 결과를 얻게 됩니다."

편견 제거

편견은 윤리적 AI에 있어서 또 다른 중요한 주제입니다. EPAM Systems의 데이터 및 AI 실무 책임자인 Umit Cakmak은 데이터에서 편견을 완전히 제거하는 것은 불가능하지만 조직이 AI 모델에서 편견을 제거하기 위해 노력하는 것이 중요하다고 말했습니다.

“이러한 것들은 시간이 지남에 따라 분석되어야 합니다”라고 Cakmak은 말했습니다. "편향은 과거 데이터에 반영되어 있기 때문에 하나의 프로세스입니다. 데이터에서 편견을 제거할 수 있는 방법은 없습니다. 따라서 비즈니스에서는 시간이 지남에 따라 더 나은 결정을 내릴 수 있도록 몇 가지 특정 프로세스를 설정해야 합니다. 그러면 데이터의 품질이 향상됩니다.

EU의 인공 지능 법안은 AI 사용을 위험별로 분류합니다.

설명성은 내부 또는 외부 감사자를 포함한 이해관계자를 설득하는 데 중요합니다. 자신의 평판을 위험에 빠뜨리는 고객과 경영진은 물론, AI 모델이 편향된 데이터를 기반으로 잘못된 결정을 내리지 않을 것임을 약속드립니다.

직원 성과를 평가하거나 이력서에서 지원자를 선택하는 데 사용되는 모델에 나타나는 인종 편견을 포함하여 자동화된 의사 결정 시스템에 데이터 편견이 유출되는 문헌에는 많은 사례가 있다고 Cakmak은 말했습니다. 모델이 어떻게 결론에 도달하는지 보여줄 수 있는 것은 모델에서 데이터 편향을 제거하기 위해 취해진 조치를 보여주기 위해 중요합니다.

Cakmak은 설명 가능성이 부족하여 의료 회사가 암 진단용으로 개발된 AI 시스템을 포기하게 된 과정을 회상합니다. 그는 “AI는 어느 정도 효과가 있었지만 알고리즘에 대한 신뢰와 확신을 쌓지 못해 프로젝트가 취소됐다”고 말했다. “결과가 나타나는 이유를 설명할 수 없으면 치료를 진행할 수 없습니다.”

EPAM 시스템은 기업이 신뢰할 수 있는 방식으로 인공지능을 구현하도록 돕습니다. 회사는 일반적으로 데이터 수집 방법부터 시작하여 기계 학습 모델 준비 방법, 모델 검증 및 해석 방법에 이르기까지 일련의 특정 지침을 따릅니다. Cakmak은 AI 팀이 이러한 검사 또는 "품질 게이트"를 성공적으로 통과하고 문서화하도록 보장하는 것이 윤리적 AI의 중요한 요소라고 말했습니다.

윤리 및 인공 지능법

Boston Consulting Group의 Global GAMMA 최고 AI 윤리 책임자인 Steven Mills는 가장 크고 가장 잘 운영되는 기업들이 이미 책임 있는 AI의 필요성을 인식하고 있다고 말했습니다.

그러나 AI 법안이 법으로 제정될 날이 가까워짐에 따라 변화하는 규제 환경과 새로운 기대에 어긋나지 않도록 전 세계의 더 많은 기업이 책임감 있는 AI 프로젝트를 가속화하는 것을 보게 될 것입니다.

"이미 AI를 구현하고 있는 많은 회사가 있으며 의도하지 않은 모든 잠재적 결과에 대해 우리가 원하는 만큼 희망적이지 않다는 것을 깨닫고 있으며 우리는 이 문제를 가능한 한 빨리 해결해야 합니다."라고 Mills는 말했습니다. ."가장 중요한 것은 사람들이 AI를 어떻게 적용하는지에 대해 무작정 생각하지 않는다는 것입니다.

AI를 윤리적으로 구현하라는 압력은 조직의 최고위층에서 나옵니다. 어떤 경우에는 AI를 나쁜 방식으로 사용하여 투자 위험이 훼손되는 것을 원하지 않는 외부 투자자로부터 발생한다고 Mills는 말했습니다.

“우리는 공공 기업이든 벤처 펀드이든 투자자들이 AI를 책임감 있게 구축하기를 원하는 추세를 보고 있습니다. 이는 모든 사람에게 중요하지 않을 수 있습니다. 그러나 배후에서 일부 VC는 스타트업이 올바른 방식으로 일을 하고 있는지 확인하기 위해 돈을 어디에 투자할지 고민하고 있습니다.”라고 Carrel은 말했습니다. 기업과 소비자 모두에게 이익이 되는 인공지능.

EPAM Systems에 합류하기 전에 금융 서비스 업계에서 기계 학습 모델을 구현한 Carrel은 "제 첫 반응은 이것이 매우 엄격할 것이라는 것이었습니다."라고 말했습니다. “저는 수년 동안 금융 서비스 의사 결정의 경계를 넓히려고 노력했는데 갑자기 우리가 하는 일을 훼손하는 법안이 나왔습니다.

하지만 계류 중인 법률을 더 많이 볼수록 그는 무엇을 더 좋아했습니다.

“저는 다양한 산업에서 AI 사용에 대한 대중의 신뢰도 점차 높아질 것이라고 생각합니다.”라고 Carrel은 말했습니다. “EU에 고위험 AI 시스템을 등록해야 한다는 법안은 그러한 일이 일어날 것이라는 것을 안다는 것을 의미합니다. 매우 위험한 AI 시스템이 어딘가에 존재합니다. 사용 중인 모든 AI 고위험 시스템의 명확한 목록입니다. 이는 감사자에게 많은 권한을 부여하며, 이는 장난꾸러기 소년과 나쁜 플레이어가 점차적으로 처벌된다는 것을 의미하며, 시간이 지남에 따라 더 나은 목적을 위해 AI와 기계 학습을 사용하려는 사람들을 위한 더 많은 기회를 창출할 수 있기를 바랍니다. 책임있는 방법. ”

위 내용은 유럽의 새로운 인공 지능 법안은 윤리적 검토를 강화할 것입니다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!