Meta는 인간과도 소통할 수 있는 1,750억 개의 매개변수를 갖춘 챗봇을 출시합니다! 나쁜 플레이 문제를 피할 수 있습니다.

​최근 메타는 또 하나의 큰 행보를 보였습니다.

최신 개발된 챗봇인 BlenderBot3를 출시하고 피드백으로 사용자 사용 데이터를 공개적으로 수집했습니다.

BlenderBot3로 무엇이든 채팅할 수 있다고 하는데, SOTA 수준의 챗봇입니다.

정말 그렇게 똑똑한가요?

위 사진은 네티즌과 BlenderBot의 채팅 기록입니다. 보시다시피 정말 그냥 채팅이에요.

사용자가 요가를 하러 간다며 블렌더봇에게 무엇을 하고 싶은지 물었습니다. 로봇은 자신이 아홉 번째 책을 쓰고 있다고 말합니다.

놀라운 BlenderBot 3

이 최신 챗봇은 메타 인공지능 연구소에서 제작되었으며 메타 최초의 175B 매개변수 로봇이기도 합니다. 모델, 코드, 데이터 세트 등의 모든 부분은 모두 공개되어 누구나 사용할 수 있습니다.

Meta는 BlenderBot3에서 사용자가 인터넷의 모든 주제에 대해 채팅할 수 있다고 말했습니다.

BlenderBot3는 Meta에서 개발한 두 가지 최신 기계 학습 기술인 SeeKeR과 Director를 적용하고 이를 사용하여 로봇이 상호 작용과 피드백을 통해 학습할 수 있는 대화 모델을 구축합니다.

BlenderBot3 개발에 참여한 연구 엔지니어인 Kurt Shuste는 "Meta는 콘텐츠 측면에서 대화형 인공지능을 향상시킬 수 있기를 바라며 이 챗봇을 시연할 때 수집한 모든 데이터를 공개적으로 공개하기 위해 최선을 다하고 있습니다."라고 말했습니다. 보기에 따르면 BlenderBot3은 새 제품이 아닙니다. 기본 모델은 여전히 ​​대규모 언어 모델이며 매우 강력한(일부 결함이 있음에도 불구하고) 텍스트 생성 소프트웨어인 LLMS입니다.

모든 텍스트 생성 소프트웨어와 마찬가지로 BlenderBot3는 처음에 대규모 텍스트 데이터 세트에 대해 교육을 받았습니다. 이러한 데이터 세트에서 BlenderBot은 다양한 통계 패턴을 마이닝한 다음 언어를 생성할 수 있습니다.

우리가 말한 나쁜 GPT-3과 같습니다.

위에서 언급한 것 외에도 BlenderBot3에는 몇 가지 하이라이트가 있습니다.

기존 챗봇과 달리 블렌더봇과 채팅을 할 때 사용자는 로봇이 주는 답변을 클릭하면 인터넷에서 문장의 출처를 볼 수 있다. 즉, BlenderBot3는 출처를 인용할 수 있습니다.

그러나 여기에는 매우 중요한 문제가 있습니다. 즉, 챗봇이 대중에게 공개되면 누구나 상호 작용할 수 있다는 의미입니다. 그것을 테스트하는 사람들의 기반이 증가하면, 확실히 "그것을 망치고" 싶어하는 사람들의 물결이 있을 것입니다.

이것은 메타팀의 다음 연구의 초점이기도 합니다.

챗봇이 손상되는 것은 드문 일이 아닙니다.

2016년에 Microsoft는 Tay라는 챗봇을 Twitter에 출시했습니다. Tay를 팔로우한 사람이라면 누구나 여전히 감동받을 것입니다.

공개 베타가 시작된 후 Tay는 사용자와의 상호 작용을 통해 배우기 시작했습니다. 당연히 테이는 소수의 말썽꾸러기 집단의 영향을 받아 인종차별, 반유대주의, 여성혐오와 관련된 일련의 발언을 하기 시작했습니다.

Microsoft는 상황이 좋지 않다는 것을 확인하고 24시간도 채 안 되어 Tay를 오프라인 상태로 만들었습니다.

메타는 테이가 워털루를 만난 이후 AI 세계가 크게 발전했다고 말했습니다. BlenderBot에는 Meta가 Microsoft의 경로를 따르지 못하도록 다양한 보안 보증이 적용되어 있습니다.

초기 실험에서는 더 많은 사람들이 모델과의 상호작용에 참여할 수 있을수록 로봇이 대화 경험을 통해 더 많은 것을 배울 수 있다는 것을 보여주었습니다. 시간이 지남에 따라 BlenderBot3는 점점 더 안전해질 것입니다.

이런 점에서는 메타가 꽤 잘하고 있는 것 같습니다.

FAIR(Facebook Artificial Intelligence Research)의 연구 엔지니어링 관리자인 Mary Williamson은 "Tay와 BlenderBot3의 가장 중요한 차이점은 Tay가 사용자 상호 작용을 통해 실시간으로 학습하도록 설계된 반면 BlenderBot은 정적 모델이라는 점입니다."라고 말했습니다.

즉, BlenderBot은 사용자가 대화 중에 말한 내용을 기억할 수 있지만(사용자가 프로그램을 종료했다가 나중에 다시 돌아올 경우 브라우저 쿠키를 통해 이 정보를 유지하기도 함), 이 데이터는 추가 목적으로만 사용됩니다. 시스템을 개선하세요.

Williamson은 "오늘날 챗봇의 대다수는 작업 지향적입니다. 가장 간단한 고객 서비스 로봇을 예로 들어 보겠습니다. 지능적으로 보이지만 실제로는 프로그램된 대화 트리일 뿐이며 사용자 수가 서서히 줄어들고 있습니다. "진정한 혁신은 로봇이 인간처럼 자유롭게 말할 수 있게 하는 것입니다. 이것이 바로 메타가 하고 싶은 일입니다. BlenderBot 3를 온라인에 올리는 것 외에도 Meta는 기본 코드, 교육 데이터 세트 및 더 작은 모델 변형도 출시했습니다. 연구원은 여기 양식을 통해 액세스를 요청할 수 있습니다.

위 내용은 Meta는 인간과도 소통할 수 있는 1,750억 개의 매개변수를 갖춘 챗봇을 출시합니다! 나쁜 플레이 문제를 피할 수 있습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!