AI 회사는 미국 정부에 보안 테스트를 보고해야 합니다.

바이든 행정부는 개발자가 주요 인공지능 시스템의 보안 테스트 결과를 공개하도록 요구하는 새로운 인공지능 규정을 도입하겠다고 발표했습니다.

이 새로운 규정에 따라 기술 회사는 AI 모델을 교육하기 위해 대량의 컴퓨팅 성능을 사용할 때 정부에 알려야 합니다. 이러한 움직임을 통해 미국 정부는 인공 지능 분야에서 이들 회사의 활동을 더 잘 감독하고 관리하기 위해 Google, AWS(Amazon Web Services) 및 OpenAI와 같은 회사로부터 민감한 데이터를 얻을 수 있습니다.

국립표준기술원은 인공지능 도구가 출시되기 전에 안전하고 신뢰할 수 있는 표준 검토를 거치도록 노력하고 있습니다. 이와 동시에 상무부는 실제 콘텐츠와 AI 생성 콘텐츠를 명확하게 구분하기 위해 AI 생성 콘텐츠에 워터마크를 추가하도록 요구하는 지침을 발표할 예정이다.

인터뷰에서 벤 뷰캐넌 백악관 인공지능 특별보좌관은 정부가 인공지능 시스템을 대중에게 공개하기 전에 해당 시스템의 안전성을 보장하기를 원한다고 말했습니다. 대통령은 기업이 이 기준을 충족해야 한다는 점을 분명히 했습니다.

미국 정부는 인공지능을 주요 경제 및 국가 안보 문제로 주목하고 있습니다. 생성 AI를 둘러싼 과대 광고와 시장 투자를 둘러싼 불확실성을 고려하면 이는 놀라운 일이 아닙니다.

3개월 전, 미국 대통령은 빠르게 진화하는 기술을 규제하기 위한 행정 명령에 서명했습니다. 행정명령은 확립된 안전 표준을 포함해 인공지능 개발을 위한 지침 원칙을 제시합니다.

백악관 인공지능위원회는 최근 행정명령 이행 검토를 논의하기 위해 회의를 열었습니다. 회의에는 여러 미국 연방 부처 및 기관의 고위 관리들이 포함되었습니다. 위원회는 성명을 통해 인공지능 시스템의 잠재적 피해로부터 미국인을 보호하려는 노력이 상당한 진전을 이루었다고 밝혔습니다. 아울러 바이든 행정부는 유럽연합 등 국제 동맹국들과 적극적으로 협력해 이 기술을 관리하기 위한 국경 간 규칙과 규정을 개발하고 있다.

새로운 규정에 따라 미국 클라우드 회사는 외국 기업이 인공 지능 모델을 교육하기 위해 미국 데이터 센터의 데이터에 액세스하는지 확인해야 합니다. 미국 정부가 클라우드 컴퓨팅 기업에 외국인 사용자의 신원정보를 검증하도록 요구하는 '고객알기제도(KYC)' 제안을 제안했다.

새로운 규정은 Amazon 및 Google과 같은 미국 기술 회사에 추가적인 과제를 제기할 수 있습니다. 이는 외국 고객의 이름과 IP 주소를 수집하고 의심스러운 활동을 정부에 보고하도록 요구하는 동시에 정기적인 규정 준수 인증을 요구하는 것입니다.

자체 보고 규정은 미국의 이익을 어느 정도 보호하고 AI 개발자가 더욱 주의하도록 장려할 수 있지만, 부정확하게 보고하거나 전혀 보고하지 않기로 선택한 사람들을 정부가 어떻게 처리할지는 불분명합니다. 민감한 데이터에 접근하는 데 있어서 법적, 윤리적 우려도 있습니다.