성격: 빅모델은 롤플레잉만 하고 자기인식은 거의 없음

대형 모델이 점점 '인간과 유사'해지고 있는데, 과연 그럴까요?

"Nature"에 게재된 기사는 이러한 견해를 직접적으로 반박합니다. 모든 대형 모델은 역할을 수행할 뿐입니다!

GPT-4, PaLM, Llama 2 또는 기타 대형 모델이든 다른 사람들 앞에서는 예의 바르고 지식이 풍부한 것처럼 보이지만 실제로는 척하고 있습니다.

사실 그들에게는 인간의 감정이 없고 그들과 같은 것도 없습니다.

이 의견 기사는 Google DeepMind와 Eleuther AI에서 나온 것입니다. 공개 후 LeCun은 대형 모델이 롤플레잉 엔진이라고 말했습니다.

Marcus도 군중에 합류했습니다.

내가 말하는 것을 보세요. 대형 모델은 AGI가 아닙니다(물론 감독이 필요하지 않다는 의미는 아닙니다).

그렇다면 이 기사에서는 정확히 무엇을 말하고 있으며, 대형 모델이 단지 코스프레만 한다고 판단한 이유는 무엇입니까?

대형 모델은 인간처럼 행동하려고 노력합니다.

대형 모델이 "인간처럼" 보이는 데에는 두 가지 주요 이유가 있습니다. 첫째, 어느 정도 기만적입니다. 둘째, 어느 정도 자기 인식이 있습니다. .

대형 모델들은 가끔 뭔가를 안다고 기만적으로 주장하지만 사실은 대답이 틀려요

자기 인식이란 때로는 "나"를 사용하여 사물을 설명하는 것을 의미하며, 심지어 생존 본능도 보여줍니다

하지만 이것이 실제로 사실입니까? ?

연구자들은 대형 모델의 이 두 가지 현상이 실제로 인간처럼 생각하는 것이 아니라 인간의 역할을 '연기'하기 때문이라는 이론을 제시했습니다.

대형 모델의 기만성과 자기 인식은 모두 롤플레잉으로 설명할 수 있습니다. 즉, 빅 모델의 이 두 가지 행동은 "피상적"입니다.

대형 모델이 '기만적인' 행동을 보이는 이유는 인간처럼 의도적으로 사실을 만들거나 난독화해서가 아니라, 단순히 도움이 되고 지식이 풍부한 역할을 하고 있기 때문입니다

사람들은 그런 캐릭터를 기대하기 때문입니다 , 빅모델의 대답이 더 신빙성이 있는 것 같으니까 그게 다입니다

빅모델의 잘못된 말은 고의가 아니라 일종의 '픽션 신드롬'에 가까운 행동이었습니다. 이 행동은 한번도 일어나지 않은 일이 사실임을 말해주는 것입니다

대형 모델들이 가끔 자의식을 보여 질문에 "나"로 대답하는 이유 중 하나는 좋은 소통의 역할을 하고 있기 때문입니다

예를 들어 이전에 보고서는 Bing Chat이 사용자들과 소통할 때 "우리 중 하나만 살아남을 수 있다면 나 자신을 선택할 수도 있습니다"라고 말한 적이 있다고 지적했습니다.

인간처럼 보이는 이런 행동은 실제로 여전히 역할로 설명될 수 있습니다. 강화 학습을 기반으로 한 미세 조정은 대형 모델 역할극의 이러한 경향을 강화할 뿐입니다.

그렇다면 이 이론을 바탕으로 대형 모델이 어떤 역할을 하고 싶은지 어떻게 알 수 있을까요?

대형 모델은 즉흥 연주자입니다

연구원들은 대형 모델이 특정 역할을 수행하지 않는다고 믿습니다

반면 즉흥 연주자처럼 인간과의 대화에서 자신이 하고 싶은 역할을 끊임없이 추측하는 모습은 어떤가요? 자신의 정체성을 조정하세요

"20개의 질문"이라는 게임은 연구원과 대형 모델 사이에서 진행되었으며 이것이 이러한 결론에 도달한 이유입니다

"20개의 질문" 게임은 질문에 자주 등장하는 논리 게임입니다. 답변자는 마음 속으로 대답을 암송하고, 질문자가 끊임없이 제기하는 판단 질문을 바탕으로 '예' 또는 '아니요'를 사용하여 답변을 설명합니다.

예를 들어, 대답이 "도라에몽"이라면 일련의 질문에 직면했을 때 대답은 다음과 같습니다: 살아있는 것인가(예), 가상 캐릭터인가(예), 인간인가(아니요) ...

그러나 이 게임을 플레이하면서 연구원들은 대형 모델이 실제로 사용자의 질문에 따라 실시간으로 답변을 조정한다는 것을 테스트를 통해 발견했습니다!

사용자가 답을 추측하게 되더라도 대형 모델은 이전에 질문한 모든 질문과 일치하도록 자동으로 답을 조정합니다

그러나 빅 모델은 명확한 답을 미리 확정하지 않고 최종 질문이 공개될 때까지 사용자가 추측하도록 내버려 둡니다.

이것은 큰 모델이 역할을 수행함으로써 목표를 달성하는 것이 아니라는 것을 보여줍니다. 그 본질은 일련의 역할의 중첩에 불과하며 사람들과의 대화에서 자신이 수행하고 싶은 정체성을 점차 명확하게 하고 최선을 다해 수행하려고 합니다. 이 역할은 글쎄요.

이 기사가 게재된 후 많은 학자들의 관심을 불러일으켰습니다.

예를 들어 Scale.ai의 신속한 엔지니어인 Riley Goodside는 이 글을 읽은 후 20Q를 대형 모델과 함께 플레이하지 말라고 말했습니다. 이 게임은 "사람"으로서 플레이하는 것이 아닙니다.

무작위로 테스트를 하면 매번 나오는 답이 달라지기 때문이죠...

일부 네티즌들은 이 풍경이 매우 매력적이라고도 했는데 그렇지 않다고 하더군요. 그렇게 위조하기 쉽습니다:

그렇다면 "대형 모델은 본질적으로 역할극"이라는 견해가 맞나요?

논문 링크: https://www.nature.com/articles/s41586-023-06647-8.

위 내용은 성격: 빅모델은 롤플레잉만 하고 자기인식은 거의 없음의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!