최근 "ChatGPT Plugins Domestic Alternative System"이라는 오픈소스 프로젝트가 GitHub에서 별이 급격히 늘었습니다.
이 프로젝트는 Wallface Intelligence에서 개발한 대형 모델 도구 학습 엔진인 BMTools입니다.
프로젝트 주소: //m.sbmmt.com/link/a330f9fecc388ce67f87b09855480ca3
먼저, 가장 중요한 질문입니다. BMTools의 장점은 무엇입니까?
Wallface R&D 팀은 언어 모델 기반의 오픈 소스 확장 가능한 도구 학습 플랫폼으로 다양한 도구 호출 프로세스를 BMTools 프레임워크로 통합하여 전체 도구 호출 프로세스를 표준화하고 자동화했습니다.
현재 BMTools에서 지원하는 플러그인은 douban-film(두반 영화), 검색(Bing 검색), Klarna(쇼핑) 등을 포함하여 엔터테인먼트, 학술, 생활 및 기타 측면을 다룹니다.
개발자는 BMTools를 사용하여 특정 모델(예: ChatGPT, GPT-4)을 사용하여 다양한 도구 인터페이스를 호출하여 특정 기능을 구현할 수 있습니다.
또한 BMTools 툴킷에는 최근 인기 있는 Auto-GPT 및 BabyAGI도 통합되어 있습니다.
그러면 이런 종류의 도구 학습은 대형 모델에 어떤 역할을 할까요?
대형 모델이 여러 측면에서 놀라운 성과를 거두었지만 특정 분야의 작업에는 여전히 일정한 한계가 있습니다. 이러한 작업을 효과적으로 해결하려면 전문 도구나 도메인 지식이 필요한 경우가 많습니다.
따라서 스마트폰이 더 나은 사용자 경험을 위해 앱을 다운로드해야 하는 것처럼 대형 모델은 실제 작업에 대한 보다 포괄적인 지원을 제공하기 위해 다양한 전문 도구를 호출할 수 있는 기능이 필요합니다.
대형모델의 새로운 패러다임, Tool Learning이 탄생했습니다. 이 패러다임의 핵심은 문제 해결의 정확성, 효율성 및 자율성을 높이기 위해 기본 모델의 강점과 특수 도구를 융합하는 것입니다.
대형 모델과 외부 도구의 유기적인 결합은 이전 역량의 많은 단점을 성공적으로 보완했으며, 도구 학습은 대형 모델의 잠재력을 크게 발휘했습니다.
문서 주소: https://arxiv.org/abs/2304.08354
2023년 3월 23일, OpenAI는 플러그인 시스템(Plugins) 출시를 발표했습니다. 역량은 우리가 도구적 학습이라고 부르는 것입니다.
도구 학습 지원을 통해 플러그인은 ChatGPT를 지원하여 브라우저, 수학적 계산 및 기타 외부 도구를 연결하여 기능을 크게 향상시킬 수 있습니다.
ChatGPT 플러그인의 등장으로 ChatGPT의 마지막 단점이 보완되어 네트워킹을 지원하고 수학적 계산을 해결할 수 있게 되었습니다. 이를 OpenAI의 "App Store" 순간이라고 합니다. 그러나 지금까지는 OpenAI Plus 사용자에게만 지원되었으며 대부분의 개발자는 사용할 수 없는 상태였습니다.
Mianbi가 ChatGPT 플러그인 출시 후 10일 만에 BMTools를 시작할 수 있는 이유는 무엇입니까?
Facing Wall Intelligence는 대형 모델의 전 과정에 효율적인 컴퓨팅 도구 개발에 주력해 왔습니다. R&D팀은 2022년부터 기존 언어 모델과 언어 모델의 결합을 시도하며 도구 학습의 새로운 패러다임에 대한 연구를 계속해 왔습니다. 검색 엔진, 지식 기반 및 기타 도구를 통해 좋은 실험 결과를 얻었습니다. 또한 팀은 도구 학습이라는 최첨단 연구 분야에서 유익한 탐구를 수행했습니다.
OpenAI 플러그인의 성능에 대한 많은 개발자들의 간절한 기대를 충족시키기 위해 팀에서는 초기 축적을 바탕으로 관련 연구 결과를 신속하게 툴링하여툴킷 BMTools에 축적했습니다. 도구 학습은 벽면 지능형 대형 모델 기능 시스템에 내장되어 OpenBMB 대형 모델 도구 시스템 "Family Bucket"에 공식적으로 합류합니다.
도구 학습도 효율적인 훈련, 미세 조정, 추론 및 압축 제품군을 거쳐 Wallface Intelligence가 출시한 또 다른 걸작입니다.
BMTools 툴킷://m.sbmmt.com/link/a330f9fecc388ce67f87b09855480ca3
최근Wall-Facing Intelligence는 Tsinghua University, 전국인민대표대회, Tencent 연구진과 함께 중국 분야 최초의 대화형 웹 검색 기반 오픈 소스 질문 및 답변 모델 프레임워크인WebCPM을 공동 출시했습니다. 이번 사업으로 국내 대형 모델 분야의 공백을 메웠다. 그리고 WebCPM은 BMTools의 성공적인 실행입니다.
현재 WebCPM 관련 작업은 자연어 처리 분야 최고의 컨퍼런스인 ACL 2023에 채택되었습니다.
WebCPM 문서 링크: https://arxiv.org/abs/2305.06849
WebCPM 데이터 및 코드 링크: https://github.com/thunlp/WebCPM
할 수 있습니다. ChatGPT가 인기를 얻은 이후 중국에서는 다양한 세력의 대형 모델이 생겨났지만 대부분의 모델이 인터넷에 연결되어 있지 않습니다.
인터넷에 연결되지 않은 대형 모델은 최신 정보를 얻을 수 없으며, 생성된 콘텐츠는 오래된 데이터 세트를 기반으로 하기 때문에 특정 제한이 있습니다.
WebCPM의 특징은 정보 검색이 대화형 웹 검색을 기반으로 한다는 것입니다.인간과 같은 검색 엔진과 상호 작용하여 질문에 답변하고 답변을 생성하는 데 필요한 사실 지식을 수집할 수 있습니다.
즉, 인터넷 기능의 지원으로 대형 모델의 질문에 대한 실시간 답변의 정확성이 크게 향상되었습니다.
WebCPM 모델 프레임워크
WebCPM 벤치마크는 WebGPT이며, 이는 Microsoft가 최근 출시한 New Bing의 차세대 검색 기술이기도 합니다.
WebGPT와 마찬가지로 WebCPM은 전통적인 LFQA(Long-form Question Answering) 긴 텍스트 개방형 질문 및 답변 패러다임의 단점을 극복합니다.: 비대화형 검색 방법에 의존합니다. 정보를 검색하는 쿼리문입니다.
WebCPM 프레임워크에서 모델은 실시간으로 검색 엔진과 상호 작용하여 웹 검색을 수행함으로써 인간과 같은 고품질 정보를 선별할 수 있습니다.
그뿐만 아니라, 모델은 복잡한 문제에 직면하면 인간처럼 여러 하위 문제로 분해하고 순차적으로 질문합니다.
또한, 관련 정보를 식별하고 탐색함으로써 모델은 원래 문제에 대한 이해를 점차 향상시키고, 지속적으로 새로운 질문을 쿼리하여 보다 다양한 정보를 검색하게 됩니다.
WebCPM 검색 대화형 인터페이스
앞으로 벽을 향한 지능은 과학 연구 결과의 적용 및 변형을 더욱 촉진하고 WebCPM 대형 모델의 구현을 촉진하기 위해 노력할 것입니다. 해당 필드.
Wall-face Intelligence는 항상 대형 모델의 원천적 혁신을 주도하기 위해 노력해 왔으며, 지능형 시대에 맞는 대형 모델 인프라 구축과 궁극적으로 "수천 가구에 대형 모델이 날아오도록" 실현하기 위해 국내 대형 모델 시스템을 구축합니다.
벽면 지능의 결과는 모두에게 명백하며 업계에서도 인정받았습니다.
Zhihu 최고 기술 책임자 Li Dahai는 Wall-Facing Intelligence에 대해 다음과 같이 언급한 적이 있습니다. "Wall-Facing Intelligence 팀은 대규모 언어 모델 연구를 수행하는 중국 최초의 팀입니다. 회사는 다음과 같은 풀 스택 기술 역량을 보유하고 있습니다. Zhihu는 Wall-facing Intelligence가 인프라의 핵심 제조업체로 성장할 수 있다고 믿습니다. 중국 대형 모델 분야에서 중국 대형 모델 산업에 기여합니다.
벽면 스마트 파노라마
도구 플랫폼과 대형 모델 라이브러리를 바탕으로 회사는ModelForce 대형 모델 시스템과 CPM 엔터프라이즈급 대형 모델을 출시했습니다. 대형 모델 기반의 AI 생산성 플랫폼인 ModelForce에는 대형 모델 훈련, 미세 조정, 압축, 추론의 전 과정을 위한 효율적인 컴퓨팅 도구 시스템이 내장되어 있습니다.
샘플이 적고 샘플이 없는 대형 모델의 일반적인 기능을 기반으로 플랫폼은 대형 모델에 대해 표준화된 미세 조정 방법을 사용하고 제로 코드 미세 조정 클라이언트를 생성하여 데이터 주석 비용, 컴퓨팅 성능을 크게 줄일 수 있습니다. AI R&D 과정에 드는 비용, 인건비.
CPM Large Model Enterprise Edition은 오픈 소스 버전 모델의 기능을 업그레이드했으며 다중 기능 통합, 점진적인 미세 조정 및 유연한 적응, 다중 시나리오 적용의 특징을 가지고 있습니다.
CPM 엔터프라이즈급 대형 모델과 ModelForce 대형 모델 시스템을 기반으로 Wallface Intelligence는 Zhihu와 협력하여"Zhihaitu AI" 대형 모델을 훈련했습니다.
요소를 빠르게 추출하고, 의견을 정리하고, 콘텐츠를 집계할 수 있는 Zhihu Hot List에 "Zhihaitu AI" 대형 모델이 적용되었습니다. 4월 23일 Zhihu Discovery Conference에서 공개되었습니다.
여기서 끝나지 않습니다. 실제로 Wall-facing Intelligence는 상위 대학의 학문적 연구력을 통합하고 지속적으로 대규모 구축 및 운영을 통해"삼위일체" 대규모 모델 산학연 생태 패턴을 성공적으로 만들었습니다. 모델 오픈 소스 커뮤니티 OpenBMB, Wall-facing Intelligence는 업계 요구 사항을 구축했으며, 알고리즘 오픈 소스와 산업 구현 간의 폐쇄 루프 채널을 통해 국내 대규모 분야의 최첨단 연구, 응용 연구 개발 및 산업 발전을 촉진하기 위해 노력하고 있습니다. 모델.
는 국내 대형모델 오픈소스 생태계 구축에 기여하고 있으며, OpenPrompt, OpenDelta, BMInf 등 대형모델 풀모델 시리즈를 출시해왔습니다. , BMCook, BMTrain, BMTools 등 프로세스 오픈 소스 툴킷과 모든 사람을 위한 대규모 모델 공개 코스가 Zhihu, Bilibili 및 기타 플랫폼에서 출시되었습니다.
대학 내에서 독보적인 연구력으로 1970년대에 설립되어 최초로 중국의 NLP 연구 이는 가장 초기이자 가장 영향력 있는 과학 연구 단위로 많은 유명 학자와 과학자들이 활동하고 있으며 대규모 언어 모델 분야에서의 연구 활동은 매우 뛰어납니다.
는 인공 지능의 일반적인 시나리오 및 분야에서 대형 모델을 적용하고 구현하는 데 전념하고 있습니다. CPM 대형 모델은 자체 개발한 사전 학습 언어 모듈입니다. Facing the Wall 팀은 다년간의 대규모 모델 훈련 경험을 바탕으로 제작되었습니다. 회사는 현재 엔젤 라운드 파이낸싱에서 수천만 위안을 완료했으며 많은 유명 기관과 전략적 협력을 달성했습니다.
국내 대형 모델 시스템을 구축하기 위해 노력하는 과정에서 Wallface Intelligence의 비전은 항상 대형 모델 구현을 통해 더 많은 산업에 힘을 실어주고 더 많은 기업과 개인에게 혜택을 주는 것이었습니다.
불꽃이 초원의 불길을 일으켰고, 대형 모델들이 더 많은 분야에서 잠재력을 발휘하며 놀라운 활용 가치를 선보일 것을 기대합니다.
위 내용은 'ChatGPT 플러그인 시스템'의 국내 오픈소스 버전이 출시되었습니다! Douban과 검색이 모두 가능하며 Tsinghua University, Face Wall Intelligence 등이 공동 출시했습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!
![[웹 프런트엔드] Node.js 빠른 시작](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
