사진을 공유하고, 이야기를 하고, 온라인에서 다른 활동에 참여하는 '사람'이 AI 봇이 아니라 실제로 실제인지 어떻게 알 수 있나요?

사람들이 종종 익명으로 참여하는 온라인 세계에서 AI가 인간 행동을 모방하는 능력이 점점 더 발전함에 따라 이는 연구자들이 숙고해온 질문입니다.

연구원들은 악의적인 행위자에 맞서고 개인정보를 보호하기 위한 노력의 일환으로 온라인 서비스 제공업체가 실제 사람과 AI 봇을 구별하는 데 도움이 되는 '개인 자격 증명'을 제안하고 있습니다.

OpenAI, Harvard, Microsoft, Oxford University, MIT, UC Berkeley 및 기타 조직의 연구원 32명이 작성한 새 논문에 요약된 이 제안은 AI가 온라인 세계에서 인간 행동을 모방하는 데 점점 더 발전함에 따라 나온 것입니다. 사람들은 종종 익명으로 참여합니다.

그들의 해결책은 온라인 서비스에 귀하가 AI가 아니라 실제임을 알 수 있게 해주는 디지털 ID 또는 토큰인 '개인 자격 증명'에 사람이 등록하도록 하는 것입니다. 그들은 정부 및 서비스 제공업체(이미 ID로 로그인하도록 요청하는 Google 및 Apple과 같은)를 포함한 다양한 "신뢰할 수 있는 기관"에서 자격 증명을 발급할 수 있다고 말합니다.

이러한 시스템이 작동하려면 전 세계적으로 널리 채택되어야 합니다. 따라서 연구원들은 정부, 기술자, 기업 및 표준 기관이 함께 모여 표준을 만들도록 권장하고 있습니다.

하지만 모든 사람이 팬은 아닙니다. 일부 연구자들은 일상적인 사람들에게 AI 봇을 탐지하고 보고하는 책임을 맡기기보다는 이러한 시스템을 만드는 회사가 AI로 인해 발생하는 문제를 해결하도록 하는 것이 더 나은 접근 방식이 될 것이라고 말합니다.

다음은 주목할만한 AI의 다른 작업입니다.

캘리포니아는 획기적인 AI 규제로 한 단계 더 발전합니다  

개발 비용이 1억 달러가 넘는 시스템을 AI 회사에 테스트하고 모니터링하도록 요구하는 획기적인 캘리포니아 법안이 현실화에 한 걸음 더 가까워졌습니다.

캘리포니아 의회는 지난 5월 주 상원의 승인을 받은 후 8월 28일 법안을 통과시켰습니다. 현재 Gavin Newsom 주지사에게 전달된 이 법안은 대규모 AI 시스템에 안전 조치를 부과하는 미국 최초의 법률이 될 것입니다.

미래의 인공 지능 모델을 위한 안전하고 안전한 혁신법이라고 불리는 상원 법안 1047은 샌프란시스코를 대표하는 민주당 의원인 Scott Wiener 주 상원의원이 제안한 것입니다. OpenAI, Google, Meta를 포함한 기술 기업과 혁신을 저해할 수 있다고 주장하는 최소 8명의 주 정치인이 반대합니다.

캘리포니아에는 Anthropic, Apple, Google, Meta 및 OpenAI를 포함하여 The Guardian이 언급한 세계 상위 50대 AI 기업 중 35개가 위치해 있습니다.

SB 1047의 전문은 여기에서, OpenAI의 반대 의견은 여기에서, 입법 진행 상황에 대한 Wiener의 반응은 여기에서 읽을 수 있습니다.

최근 몇 달 동안 연구원들과 심지어 AI 회사 직원들조차도 강력한 AI 시스템의 개발이 개인 정보 보호 및 보안에 대한 적절한 보호 장치 없이 이루어지고 있다는 우려를 표명했습니다. 6월 4일 공개 서한에서 AI 발명가인 요슈아 벤지오(Yoshua Bengio), 제프리 힌튼(Geoffrey Hinton), 스튜어트 러셀(Stuart Russell)을 포함한 직원과 업계 유명 인사들은 AI 회사에서 문제를 보고하는 사람들을 위한 내부 고발자 보호의 필요성을 촉구했습니다.

한편 ChatGPT를 만드는 OpenAI와 Claude의 창시자인 Anthropic은 지난 주 미국 정보안전연구소(US Intelligence Safety Institute)가 AI 모델을 테스트 및 평가하고 안전 연구에 협력할 수 있도록 미국 정부와 처음으로 계약을 체결했습니다. 연구소는 말했다. 이 조직은 지난 10월 조 바이든 대통령의 AI 행정명령의 일환으로 창설됐다.

정부는 "각 회사의 주요 신모델 공개 전후에 접근권한을 받을 것"이라고 국립표준기술연구소(NIST) 산하 상무부 소속 연구소가 밝혔습니다.

물론 그 시기는 캘리포니아 주 뉴섬이 주에서 제안한 AI 법안에 참여할지, 아니면 문제 해결을 연방 정부에 맡길지 결정하면서 옵니다.

OpenAI의 Sam Altman은 정부와의 거래가 발표된 후 X에 대한 블로그 게시물에서 자신의 관점을 공유했습니다.

"우리는 미래 모델의 사전 출시 테스트를 위해 미국 AI 안전 연구소와 합의하게 되어 기쁘게 생각합니다."라고 Altman은 썼습니다. “여러 가지 이유로 우리는 이것이 국가 차원에서 일어나는 것이 중요하다고 생각합니다. 미국이 계속해서 선도해야 한다!” 

Google의 Gemini 텍스트-이미지 생성기를 다시 시도할 준비가 되었습니다.

텍스트-이미지 생성기가 사람들의 부끄럽고 불쾌한 이미지를 생성했기 때문에 Google은 지난 주 Gemini 챗봇의 일부로 이 도구의 업데이트된 버전을 출시할 준비가 되었다고 밝혔습니다.

2월에 사람을 묘사하는 이미지 생성기의 기능은 사용자가 흑인과 아시아인을 나치 시대의 독일 군인으로 표시하고(Yahoo News가 언급한 대로) 기괴하고 편견적이며 인종차별적인 이미지를 초래하는 행동을 발견한 후 중단되었습니다. 백인을 묘사하거나 바이킹, 나치, 교황의 이미지를 만들라는 메시지가 표시될 때 여성이나 유색인종의 사진을 삽입합니다.”(Semafor가 보고한 대로)

회사가 적절한 테스트 없이 AI 제품을 시장에 서두르고 있다는 신호로 여겨지는 반발로 인해 Google CEO 순다르 피차이는 사과했습니다. “일부 응답이

위 내용은 사진을 공유하고, 이야기를 하고, 온라인에서 다른 활동에 참여하는 '사람'이 AI 봇이 아니라 실제로 실제인지 어떻게 알 수 있나요?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!