국내 ChatGPT가 다시 오픈소스로 돌아왔습니다! 효과가 대폭 업그레이드되어 휴대폰에서도 실행이 가능합니다.

최근 Yuanyu Intelligence 팀은 ChatYuan 시리즈의 또 다른 대형 모델인 ChatYuan-large-v2를 오픈 소스로 공개했습니다. ChatYuan-large-v2는 단일 소비자급 그래픽 카드, PC, 심지어 휴대폰에서도 추론을 지원합니다.

방금 "중국어 ChatGPT" ChatYuan이 새 버전을 출시했습니다.

업데이트된 ChatYuan-large-v2는 중국어와 영어 이중 언어를 지원할 뿐만 아니라 최대 4k의 총 입력 및 출력 길이를 지원합니다.

이 역시 이전 PromptCLUE-base, PromptCLUE-v1-5, ChatYuan-large-v1 모델에 이어 대형 모델 방향으로 Yuanyu Intelligence가 연구한 결과입니다.

오픈소스 프로젝트 주소:

https://github.com/clue-ai/ChatYuan

Huggingface:

https://huggingface.co/ClueAI/ChatYuan-large-v2

모델 범위:

https://modelscope.cn/models/ClueAI/ChatYuan-large-v2/summary

01 ChatYuan-large-v2란 무엇인가요?

ChatYuan-large-v2는 중국어와 영어 이중 언어를 지원하는 기능적 대화형 언어 대형 모델입니다. ChatYuan-large-v2는 교육 미세 조정, 인간 피드백 강화 학습 측면에서 v1 버전과 동일한 기술 솔루션을 사용합니다. 생각 체인이 최적화되었습니다.

ChatYuan-large-v2는 경량 설계로 고품질 효과를 구현하는 ChatYuan 시리즈의 대표 모델입니다. 단 0.7B 매개변수만으로 업계 10B 모델의 기본 효과를 구현하여 추론 비용을 대폭 절감하고 사용 효율성을 향상시킵니다. . 사용자는 소비자급 그래픽 카드, PC, 심지어 휴대폰에서도 추론을 수행할 수 있습니다(INT4에는 최소 400M만 필요).

동시에 팀에서는 도구를 캡슐화하여 Chatyuan-large-v2를 로컬로 구현했으며 다운로드 후 로컬에서 웹용으로 직접 사용할 수 있습니다. 페이지 상호 작용.

02 v2의 업그레이드는 무엇인가요?

chatyuan-large-v1의 원래 기능을 기반으로 v2 모델은 다음과 같이 최적화되었습니다.

• 향상된 기본 기능: 원래의 상황에 맞는 질문과 답변 및 창의적인 글쓰기 기능이 크게 향상되었습니다.
• 답변 거부 기능 추가: 위험하고 유해한 질문에 대답을 거부하는 방법을 알아보세요.
• 코드 생성 기능 추가: 기본 코드 생성이 어느 정도 최적화되었습니다.
• 테이블 생성 기능 추가: 최적화된 테이블 내용 및 형식.
• 향상된 수학 연산 기능: 덧셈, 뺄셈과 같은 기본적인 수학 연산이 최적화되었습니다.
• 전체 입력 및 출력 길이 확장: 최대 길이 토큰 수가 4096개로 확장되었습니다.
• 향상된 시뮬레이션 시나리오 기능: 여러 사람의 대화 또는 특정 시나리오를 시뮬레이션하고 시나리오에서 콘텐츠 생성 및 상황별 상호 작용을 수행할 수 있습니다.
• 중국어-영어 이중 언어 대화 기능 추가: 새로 추가된 중국어-영어 이중 언어 상호 작용, 영어 생성, 번역 및 기타 기능.

거부 능력

계산 추론

시뮬레이션 시나리오

양식 생성

코드 생성

03 v2의 제한

Chatyuan-large-v1은 경량 대형 모델이므로 개발자는 다음을 포함하여 몇 가지 제한 사항과 단점을 인지하는 것이 좋습니다.

• 추론, 계산 및 코드 생성의 기본 기능을 구현하려면 여전히 훈련이 부족하다는 문제가 있습니다. 일부 시나리오에서는 논리적 오류가 발생할 수 있습니다. 주석을 달 수 있지만 능률적이고 매끄럽다고 보장할 수 없습니다. 정확성, 가시성을 최적화해야 합니다.
• 일반 지식 답변은 정확하지 않으며, 사실 지식은 여전히 부정확합니다.
• 상황별 정보 처리가 아직 부족합니다.

결론

일반적으로 v2는 v1 오픈소스 모델에 비해 컨텍스트 이해, 콘텐츠 생성, 코드 테이블 생성 등의 측면에서 크게 향상되었습니다. 업계에서 수백억 개의 매개변수 규모의 기반을 달성할 수 있습니다. 0.7B 매개변수 규모만으로 추론 비용을 크게 줄이고 사용 효율성을 향상시키는 효과가 있습니다.

Yuanyu Intelligence는 팀이 오픈 소스 경로를 확고히 고수할 것이며 앞으로도 더 좋고 더 큰 범용 대형 모델을 계속 오픈 소스로 제공하고 오픈 소스 개발자 생태계를 지속적으로 구축하며 오픈 소스 개발을 촉진할 것이라고 밝혔습니다. 국내 대형 모델의 모든 친구들이 우리를 비판하고 교정하기를 바랍니다.

제품 내부 테스트 초대

이 오픈 소스 ChatYuan-large-v2 모델 외에도 Yuanyu 팀은 KnowX 제품의 내부 테스트를 공식적으로 시작했으며 최신 버전의 대형 모델 기능을 갖추고 있습니다. ChatYuan 온라인은 상황에 따른 이해가 가능하며 콘텐츠 생성, 코드 생성, 논리적 추론 계산 등에서 탁월한 성능을 발휘합니다. 버전의 신뢰성, 안정성 및 추가 최적화를 보장하기 위해 현재 제품이 출시되었습니다. 내부 테스트로 인원이 제한되어 있으니 관심 있는 친구들은 아래 링크에서 신청해주세요.

내부 베타 신청 채널:

https://wj.qq.com/s2/11984341/e00b/

위 내용은 국내 ChatGPT가 다시 오픈소스로 돌아왔습니다! 효과가 대폭 업그레이드되어 휴대폰에서도 실행이 가능합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!