8개 국어를 이해하고 맥락을 이해하는 AI 콘텐츠 리뷰가 등장! Microsoft, 신제품 출시: 텍스트와 이미지 감지 가능

현지시간 5월 23일, 마이크로소프트는 보다 안전한 네트워크 환경 조성을 목표로 인공지능(AI)을 활용한 콘텐츠 리뷰 서비스 제품인 Azure AI Content Safety(Azure AI 콘텐츠 보안 서비스)를 출시했습니다. 이 제품은 이미지나 텍스트에서 편견, 증오, 폭력 등과 관련된 부정적인 콘텐츠를 감지할 수 있는 일련의 훈련된 AI 모델을 제공합니다.

보고서에 따르면 이 제품은 Azure OpenAI 서비스에 내장되어 타사 개발자에게 공개될 예정입니다. Azure OpenAI 서비스는 마이크로소프트가 관리하는 기업 중심 서비스 제품으로 기업이 AI 연구소 OpenAI의 기술에 접근하고 거버넌스 기능을 추가할 수 있도록 설계된 것으로 이해된다. Azure AI 콘텐츠 보안 서비스는 Azure OpenAI 서비스뿐만 아니라 게임 플랫폼, 온라인 커뮤니티 등 AI가 아닌 플랫폼에도 적용할 수 있다는 점을 언급할 만하다.

↑정보 차트

Azure AI 콘텐츠 보안 서비스는 영어, 스페인어, 독일어, 프랑스어, 중국어, 일본어, 포르투갈어, 이탈리아어 등 8개 언어에 '능숙'한 것으로 알려졌다. 즉, 이러한 8개 언어로 된 이미지나 텍스트를 이해 및 감지하고 플래그가 지정된 콘텐츠에 심각도 점수를 할당하여 검토자에게 조치가 필요한 콘텐츠를 알려줄 수 있습니다.

또한 마이크로소프트 대변인에 따르면 이 제품은 동종의 이전 제품에 비해 텍스트 내용과 문화적 배경을 더 잘 이해할 수 있다고 한다. 대변인은 “우리는 문화, 언어, 맥락을 고려한 지침 개발에 전념하는 언어 및 공정성 전문가 팀을 보유하고 있다”며 “이 보고서는 또한 마이크로소프트가 현재의 AI가 완벽하지 않다는 점을 인식하고 그렇게 하기를 희망한다고 지적했다”고 덧붙였다. . 인간은 AI를 사용하면서 AI를 향상시킵니다

보고서는 모든 AI 검토 프로그램이 직면하는 문제와 마찬가지로 Azure AI 콘텐츠 보안 서비스도 궁극적으로 인간 검토자에게 데이터 및 콘텐츠 표시를 의존한다는 점을 지적했습니다. 즉, 그 공정성은 궁극적으로 인간에게 달려 있음을 의미합니다. 보고서에 따르면 데이터와 콘텐츠의 수동 처리에 대한 편견은 두통을 유발할 수 있다고 합니다. 2015년에는 구글의 인공지능 이미지 인식 소프트웨어가 유색인종을 오랑우탄으로 잘못 분류했다는 보도가 나오면서 논란이 일었다. 미국 언론은 8년이 지난 지금도 오늘날의 기술 대기업들은 여전히 ​​“같은 실수를 다시 저지를까” 걱정하고 있다고 전했다.

사실 AI로 인한 위험에 어떻게 대처할지는 대중과 기술계 사이에서 항상 뜨거운 주제였습니다. 이달 22일 AI가 합성한 것으로 추정되는 '펜타곤 근처 폭발'이라는 가짜 사진이 인터넷에 유포돼 한동안 공황을 일으켰던 미국 국방부 대변인이 해당 루머를 긴급 반박했다. 이후 미국 언론 분석에서는 해당 이미지가 AI가 생성한 모든 특성을 갖고 있다고 분석했다. 이달 초 오픈AI(OpenAI) CEO 샘 알트만(Sam Altman)은 미국 상원 소위원회 청문회에서 인공지능(AI)에 대한 정부 규제를 촉구했다. 그는 이 기술에 실수가 있다면 그 결과는 매우 심각할 것이며 세상에 막대한 피해를 줄 수 있다고 강조했다.

레드스타뉴스 리진루이 기자

편집자 허셴펑 편집자 리빈빈

위 내용은 8개 국어를 이해하고 맥락을 이해하는 AI 콘텐츠 리뷰가 등장! Microsoft, 신제품 출시: 텍스트와 이미지 감지 가능의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!