싱가포르, GPT-4 이상의 기능을 갖춘 AI 연산 모델 Goat 출시

두뉴스는 6월 7일 현재 GPT-4 모델의 가장 큰 단점은 주로 연산능력이라고 보도했다. 계산 문제. 올바른 결과.

싱가포르 국립대학교의 연구원들은 최근 산술 문제를 해결하도록 설계된 Goat라는 모델을 출시했습니다. 이 소식은 IT House에서 보도했습니다. 연구원들은 "LLaMA 모델을 미세 조정한 후 Goat는 GPT-4보다 수학적으로 더 높은 정확도와 더 나은 성능을 달성했습니다"라고 밝혔습니다.

연구원들은 학습 가능한 산술 유형에 따라 작업을 분류한 다음 기본 산술 원리를 사용하여 학습할 수 없는 작업을 일련의 학습 가능한 작업으로 분해하는 새로운 방법을 제안했습니다(IT 홈 참고: 복잡한 계산 프로세스를 간단한 단계로 분해). 그런 다음 AI 모델을 가져옵니다.

이 새로운 방법을 사용하면 모델은 순수한 "가중치 메모리 계산"에만 의존하지 않고 응답 패턴을 학습하고 프로세스를 보이지 않는 데이터에 일반화할 수 있으므로 산술 성능을 효과적으로 향상시킬 수 있으며 제로 샘플 학습에 사용할 수 있습니다. "거의 완벽한 정확도"는 큰 수의 덧셈과 뺄셈에 대한 답을 생성합니다.

연구원들은 24GB의 비디오 메모리를 갖춘 GPU에서 훈련하고 BIG-bench 연산 하위 작업을 사용하여 최종 모델을 테스트했으며, 정확도 결과는 Bloom, GPT-NeoX, OPT 및 업계의 다른 모델보다 뛰어났습니다.

0샘플 Goat-7B의 정확도는 소수 샘플 학습 후에도 PaLM-540 모델을 능가했으며, 대량 계산에서는 GPT-4를 훨씬 능가했습니다.

위 내용은 싱가포르, GPT-4 이상의 기능을 갖춘 AI 연산 모델 Goat 출시의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!