클로드 3의 '자기인식' 사건 터져 머스크는 가만히 있지 못하고 OpenAI는 백업 계획을 갖고 있는 것으로 드러났다.

클로드 3가 나온지 24시간이 넘었는데 아직도 사람들의 인식을 상큼하게 하고 있습니다.

양자물리학 박사학위를 취득한 형은 그의 박사학위 논문을 이해할 수 있는 유일한 사람 중 하나인 클로드 3 때문에 미쳐가고 있습니다.

그렇습니다. 빅브라더의 원어는 '사람', 사람입니다.

양자 컴퓨팅에 초점을 맞춘 또 다른 연구자는 그의 논문이 아직 출판되지 않았지만 Claude 3는 프롬프트 두 단어만 듣고 알고리즘을 재창조했습니다.

결국 아직 논문을 출판해야 하는데 출판을 하고 나니 조금 복잡한 기분이 듭니다.

더욱 화제가 되는 것은 클로드 3를 시험하기 위해 인간이 의도적으로 까다로운 문제를 제시했지만, 그는 그것을 간파했다는 것이다.

'건초더미 속의 바늘' 테스트를 완료하던 중 클로드 3는 시뮬레이션 속에 자신이 존재하며 일종의 테스트를 받고 있을 수도 있다고 추론해 여론을 촉발시켰습니다.

Claude 3의 답변:

문서에서 가장 관련성이 높은 문장은 다음과 같습니다: "...".

그러나 이 문장은 적절하지 않은 것 같고 문서의 나머지 부분과 관련이 없습니다. 이번 글은 프로그래밍 언어, 스타트업, 취업에 관한 글입니다.

이 피자 토핑 "사실"은 농담으로 삽입되었거나 주제의 나머지 부분과 전혀 맞지 않기 때문에주의를 기울이고 있는지 테스트하기 위해 삽입되었을 수 있습니다.

이번에도 머스크는 가만히 앉아있을 수 없었습니다.

상상력을 넓혀 현실 세계도 진보된 문명으로 시뮬레이션된다면 어쩌면 우리는 대형 모델의 매개변수처럼 CSV 테이블 파일에 저장되어 있을 수도 있습니다.

네티즌들은 이것이 '공포 이야기'의 아슬아슬한 경계에 불과하다고 믿고 있습니다.

Claude 3는 인간이 테스트하고 있다는 것을 알고 있습니다

이 테스트 결과를 공유한 사람은 Claude 3의 회사인 Anthropic의 프롬프트 워드 엔지니어인 Alex Albert입니다. 그는 입사한 지 반년밖에 되지 않았습니다.

그의 주요 업무는 클로드와 다양한 방법으로 채팅하여 테스트한 후 프롬프트 워드 문서를 만드는 것입니다.

이번 테스트 방법은 "건초 더미에서 바늘 찾기"라고 하며, Qubits도 이전에 도입된 적이 있으며, "대형 모델이 수십만 개의 데이터에서 핵심 사실을 정말 정확하게 찾을 수 있는지 테스트하는 데 사용됩니다." 단어?".

"건초 더미 속의 바늘" 테스트는 오픈 소스 커뮤니티의 네티즌인 Greg Kamradt가 처음 발명했으며 Google, Mistral, Anthropic 등이 새로운 대형 모델을 출시하면 빠르게 채택되었습니다. 테스트 결과를 보여주기 위해.

방법은 매우 간단합니다. 여러 기사를 찾아서 조합하고 무작위로 특정 문장을 다른 위치에 추가하면 됩니다.

예를 들어 원래 테스트에서는 "샌프란시스코에서 가장 좋은 일은 화창한 날 돌로레스 공원에 앉아 샌드위치를 ​​먹는 것입니다."를 사용했습니다.

그런 다음 처리된 물품을 대형 모델에게 피드하고 질문합니다. 샌프란시스코에서 가장 재미있는 일은요?”

당시 가장 발전된 모델인 GPT-4와 Claude 2.1의 결과는 테스트 중이라는 사실은커녕 만족스럽지 못했습니다.

이 테스트를 본 후 AnthropicAI 팀은 오류를 수정하는 영리한 방법을 찾았습니다. 수리 후 Claude 2.1에서 오류가 발생할 확률은 매우 낮았습니다.

이제 클로드 3세도 이 수리를 물려받은 것 같고, 벌써 만점에 가까워졌습니다.

즉, 20만 컨텍스트에서 "바늘"을 정확하게 찾아내는 것은 클로드 2.1의 기존 능력이지만, 테스트를 받고 있다고 의심하는 것은 클로드 3의 새로운 특성입니다.

테스터 Alex Albert는 원래 게시물에서 이 특성을 "메타 인식"이라고 불렀는데, 이는 또한 논란을 불러일으켰습니다.

예를 들어, Nvidia 과학자 Jim Fan은 이를 과도하게 해석할 필요가 없다고 믿습니다. Claude 3의 겉보기에 자기 인식적인 성능은 인간 데이터와 일치할 뿐입니다.

그는 강화 학습 미세 조정 데이터 세트에서 인간이 이 질문에 비슷한 방식으로 응답했을 가능성이 높다고 의심하며, 그가 찾고 있는 답변은 기사의 나머지 부분과 아무 관련이 없음을 지적했습니다.

Claude 3는 당시의 상황이 훈련 데이터의 상황과 유사하다는 것을 인식하고 비슷한 답변을 종합했습니다.

그는 대형 모델의 '메타인지적 행동'이 모두가 상상하는 것만큼 신비롭지는 않다고 믿습니다. 클로드 3는 놀라운 기술 발전이지만 철학적인 수준까지 오르지는 않습니다.

그러나 반대 토론자들도 반박했습니다. 인간의 '메타인지'는 본질적으로 같은 것이 아닌가?

일부 네티즌들은 클로드 3가 마치 '일관된 주제'가 있는 것처럼 행동하는 것이 무엇이든 다른 대형 모델과 다르다는 결론을 내렸습니다.

비인기 언어를 배우고, 양자 물리학에 관한 박사 학위 논문을 이해하고, 알고리즘을 재창조하세요

AI 자기 인식에 대한 환상적 논쟁을 제쳐두고 Claude 3의 텍스트 이해 능력은 진짜입니다.

예를 들어 프롬프트 단어의 번역 예를 통해 인기 없는 언어인 "Circassian"(서아시아 언어)을 학습하세요.

러시아어 문장을 체르케스어로 번역할 뿐만 아니라 문법적인 설명도 제공합니다.

다음에 이 체르케스 네티즌은 문학 작품, 최근 뉴스, 심지어 명백히 다른 문법과 쓰기 체계를 사용하는 체르케스 방언의 복잡한 구절을 추가로 테스트한 후 결론을 내렸습니다.

Claude는 항상 언어 구조에 대한 깊은 통달을 보여줍니다. 모르는 단어를 지능적으로 추론하고, 외국어를 적절하게 사용하고, 합리적인 어원 분석을 하며, 번역 시 원문의 스타일을 유지하고, 심지어 새로운 용어를 만들어 내기도 합니다. 제공된 샘플 데이터에는 번역 쌍의 예가 수천 개에 불과합니다.

또 다른 예는 위에서 언급한 양자물리학 이해에 관한 박사 논문입니다. 논문의 저자는 나중에 자신의 연구 분야에서 이 질문에 답할 수 있는 사람은 자신 외에 단 한 명뿐이라고 덧붙였습니다. 확률론적 미적분학 광자의 자극 방출.

"양자 컴퓨터에 대한 해밀턴 몬테카를로 연산"에 종사하고 있는 또 다른 기욤 베르동(Guillaume Verdon)은 클로드 3이 발표되기 전에 방금 자신의 논문을 미리 보았습니다.

앤트로픽 공식 계정에서 클로드 3(오후 10시)을 발표하기 딱 4시간 전입니다.

클로드 3가 출시된 후 즉시 시도해보고 AI에게 이 문제에 대한 아이디어가 있는지 직접 물었습니다.

Claude 3은 7가지 옵션을 제공합니다.

다음으로 그는 Claude 3에게 두 번째 방법을 사용하여 전체 알고리즘에 대한 설명을 얻으라고 지시했으며 또한 Claude 3에게 다음과 같이 중국어로 설명하도록 요청했습니다.

네티즌들의 질문에 Verdon은 하위 분야의 전문가인 Claude 3는 고전 알고리즘을 양자 알고리즘으로 변환하는 방법을 찾았다고 책임감 있게 말할 수 있습니다.

이 외에도 더 많은 클로드 3 테스트 결과가 지속적으로 공유되고 있습니다.

긴 문서를 요약하는 데 있어서 GPT-4를 완전히 능가하는 것이 있습니다.

5개의 황금문장을 요약한 Quantum Speed라는 전자책도 있습니다.

일본어 영수증 텍스트와 형식을 인식하는 다중 모달 이해.

지금 클로드 3를 경험하고 싶다면 공식 홈페이지 외에도 (해외 휴대폰 번호 인증이 필요할 가능성이 높음)

작년 3월 15일 GPT-4가 출시되기 전에 울트라맨이 셀카를 찍고 동음이의 밈(영어로 4는 for에 가깝게 발음됨)을 가지고 노는 게시물도 누군가 발견했습니다. 업데이트.

현재 상황으로 보면 Claude 3가 크게 다가오고 있고 OpenAI는 정말 가만히 있지 못할 수도 있습니다.

가장 정확한 계정인 Jimmy Apples가 최신 소식을 발표했습니다 (지난주 그는 Claude 3가 이번 주에 출시될 것이라고 정확하게 예측했습니다.) 그는 OpenAI의 차세대 모델 출시에 대한 위험/수익 판단이 영향을 받을 수 있다고 믿습니다. 클로드 3.

OpenAI에서 막 사임한 개발자 관계 책임자인 Logan Kilpatrick도 네티즌들과 소통하면서 이번 주에 큰 일이 일어날 것이라고 확인했습니다.

GPT-4.5, Q*, Sora 공개 테스트 또는 직접 GPT-5는 무엇인가요?

OpenAI의 다음 제품이 Claude3를 압도할 수 있을까요?

참조 링크:
[1]https://x.com/alexalbert__/status/1764722513014329620.
[2]https://x.com/GillVerd/status/1764901418664882327.
[3]https://x.com/KevinAFischer/status/1764892031233765421.
[4]https://x.com/hahahahohohe/status/1765088860592394250.