GPT-3: 글을 쓸 수 있는 인공지능-일체 포함-php.cn

번역자 | Cui Hao

리뷰어 | Sun Shujuan

열기

인공지능(AI)은 인간과 상호작용하는 방식에 혁명을 일으킬 가능성이 있습니다. 기술.

인공지능 소개

인공지능에 관해서는 현재 크게 두 가지 관점이 있습니다. 어떤 사람들은 AI가 결국 인간 지능을 능가할 것이라고 믿는 반면, 다른 사람들은 AI가 항상 인류에게 봉사할 것이라고 믿습니다. 양측이 동의할 수 있는 한 가지는 인공 지능이 점점 더 빠른 속도로 발전하고 있다는 것입니다.

인공 지능(AI)은 아직 개발 초기 단계이지만 인간이 기술과 상호 작용하는 방식에 혁명을 일으킬 가능성이 있습니다.

간단하고 일반적인 설명은 인공지능이 컴퓨터가 스스로 결정을 내리도록 프로그래밍하는 과정이라는 것입니다. 이는 다양한 방법으로 달성할 수 있지만 가장 일반적으로 알고리즘을 사용하여 달성됩니다. 알고리즘은 문제를 해결하기 위해 따를 수 있는 일련의 규칙이나 지침입니다. 인공지능의 경우, 알고리즘은 컴퓨터에게 의사결정 방법을 가르치는 데 사용됩니다.

과거에는 체스를 두거나 수학 문제를 푸는 등 간단한 작업에 인공지능이 주로 사용되었습니다. 이제 인공지능은 얼굴 인식, 자연어 처리, 심지어 자율주행과 같은 보다 복잡한 작업에도 사용되고 있습니다. 인공지능은 계속해서 발전하기 때문에 앞으로 어떤 능력을 갖게 될지는 알 수 없습니다. AI 기능이 급속히 확장됨에 따라 그것이 무엇인지, 어떻게 작동하는지, 그리고 잠재적인 영향을 이해하는 것이 중요합니다.

인공지능의 이점은 엄청납니다. 스스로 결정을 내릴 수 있는 능력을 갖춘 AI는 수많은 산업을 더욱 효율적으로 만들고 모든 유형의 사람들에게 기회를 제공할 수 있는 잠재력을 가지고 있습니다. 이번 포스팅에서는 GPT-3에 대해 알아보겠습니다.

GPT-3은 무엇이며 어디서 나온 것인가요?

GPT-3은 샌프란시스코에 본사를 둔 선구적인 AI 연구 회사인 OpenAI에서 만들었습니다. 그들은 그들의 목표를 "인공지능이 모든 인류에게 이익이 되도록 하는 것"으로 정의합니다. 인공지능을 창조하려는 그들의 비전은 분명합니다. 전문적인 작업에 국한되지 않고 인간처럼 다양한 작업을 수행할 수 있는 인공지능입니다.

몇 달 전 OpenAI 회사는 GPT-3이라는 새로운 언어 모델을 모든 사용자에게 출시했습니다. GPT-3은 Generative Pretrained Transformer 3의 약자로 Prompt라는 전제를 통해 텍스트를 생성하는 기능을 포함합니다. 간단히 말해서, 높은 수준의 "자동 완성" 기능이 있습니다. 예를 들어 특정 주제에 대해 두세 문장만 제공하면 나머지는 GPT-3가 알아서 처리합니다. 대화를 생성할 수도 있으며, GPT-3에서 제공하는 답변은 이전 질문과 답변의 맥락을 기반으로 합니다.

GPT-3에서 제공하는 각 답변은 가능성일 뿐이므로 가능한 유일한 답변은 아니라는 점을 강조해야 합니다. 게다가 동일한 전제를 여러 번 테스트하면 다르거나 심지어 모순되는 답변이 나올 수도 있습니다. 따라서 이전에 말한 내용을 기반으로 답변을 반환하고 이를 알고 있는 모든 것과 연결하여 가장 합리적인 답변을 얻는 모델입니다. 이는 반드시 실제 데이터를 가지고 답변을 제공할 의무는 없다는 의미이며, 이는 우리가 고려해야 할 사항입니다. 이는 사용자가 관련 업무 데이터를 공개할 수 없다는 의미는 아니지만 GPT-3는 이 데이터를 상황별 정보와 비교해야 합니다. 맥락이 더 포괄적일수록 더 합리적인 답변을 얻을 수 있으며, 그 반대도 마찬가지입니다.

OpenAI의 GPT-3 언어 모델은 사전 훈련되어 있으며, 훈련에는 인터넷에서 많은 양의 정보를 학습하는 것이 포함됩니다. GPT-3은 공개적으로 이용 가능한 모든 책, Wikipedia의 전체 콘텐츠, 수백만 개의 웹 페이지 및 인터넷상의 과학 논문에 공급됩니다. 간단히 말해서, 이는 역사상 우리가 웹에 게시한 가장 중요한 인간 지식을 통합합니다.

이 정보를 읽고 분석한 후 언어 모델은 48개의 16GB GPU에 위치한 700GB 모델에서 연결을 생성합니다. 이 차원을 이해하기 위해 이전 OpenAI 모델인 GPT-2 모델은 40GB 크기로 4,500만 개의 웹 페이지를 분석했습니다. GPT-2에는 15억 개의 매개변수가 있고 GPT-3에는 1750억 개의 매개변수가 있으므로 차이가 엄청납니다.

테스트를 해볼까요? GPT-3에게 그것이 어떻게 정의되는지 물었고 그 결과는 다음과 같습니다:

GPT-3: 글을 쓸 수 있는 인공지능

GPT-3 사용 방법

GPT-3를 사용하고 테스트하려면 해당 웹사이트로 이동하여 등록하고 개인 정보를 추가하기만 하면 됩니다. 이 과정에서 다음과 같은 질문을 받게 됩니다: 인공 지능을 어떤 용도로 사용하시겠습니까? 이 예에서는 "개인 사용" 옵션을 선택했습니다.

내 경험상 영어 상황에서 더 잘 작동한다는 점을 지적하고 싶습니다. 그렇다고 해서 다른 언어에서는 잘 작동하지 않는다는 의미는 아닙니다. 사실 스페인어에서는 매우 잘 작동하지만 저는 영어로 제공되는 결과를 더 선호합니다. 그래서 지금부터 테스트와 결과를 보여드리겠습니다. 영어로.

GPT-3는 우리가 입장했을 때 무료 선물을 주었습니다. 이메일과 전화번호로 가입하면 결제 방법을 입력할 필요 없이 $18를 완전히 무료로 사용할 수 있습니다. 별거 아닌 것 같아도 사실 18달러는 꽤 큰 금액입니다. 아이디어를 드리기 위해 5시간 동안 AI를 테스트했는데 비용은 1달러밖에 나지 않았습니다. 나중에 우리가 더 잘 이해할 수 있도록 가격을 설명하겠습니다.

웹사이트에 들어가면 Playground 섹션으로 이동해야 합니다. 이곳은 모든 마법이 일어나는 곳입니다.

GPT-3: 글을 쓸 수 있는 인공지능

Prompt+Submit

우선 온라인에서 가장 눈길을 끄는 것은 커다란 텍스트 상자입니다. 여기에서 AI에 프롬프트 입력을 시작할 수 있습니다(이것이 우리의 요청 및/또는 지침임을 기억하십시오). 이 경우에는 질문을 입력하고 아래 제출 버튼을 클릭하면 GPT-3가 우리에게 응답하고 우리가 요청한 내용을 작성할 수 있습니다.

GPT-3: 글을 쓸 수 있는 인공지능

Presets

Presets는 다양한 작업에 대해 언제든지 실행할 수 있는 기능입니다. 텍스트 상자의 오른쪽 상단에서 찾을 수 있습니다. 그 중 여러 개를 클릭하면 "추가 예제"를 클릭하면 전체 목록을 볼 수 있는 새 화면이 열립니다. 사전 설정을 선택하면 텍스트 영역의 내용이 기본 텍스트로 업데이트됩니다. 오른쪽 사이드바의 설정도 업데이트됩니다. 예를 들어 "문법 교정" 사전 설정을 사용하려면 최상의 결과를 얻으려면 다음 구조를 따라야 합니다. GPT-3를 훈련하는 데 사용되는 대규모 데이터 세트는 GPT-3가 그토록 강력한 주된 이유입니다. 그러나 더 크다고 해서 항상 더 좋은 것은 아닙니다. 이러한 이유로 OpenAI는 네 가지 주요 모델을 제공합니다. 물론 다른 모델도 있지만 현재 사용하고 있는 최신 버전을 사용하는 것이 좋습니다.

GPT-3: 글을 쓸 수 있는 인공지능

사용 가능한 모델은 다빈치, 배비지, 퀴리, 에이다입니다. 4가지 모델 중 Davinci는 다른 엔진이 수행하는 모든 작업을 처리할 수 있기 때문에 가장 크고 성능이 뛰어납니다.

모델에 대한 개요와 모델이 매칭되는 작업 유형을 알려드리겠습니다. 더 작은 엔진은 많은 데이터에 대해 훈련되지 않았을 수 있지만 여전히 특정 작업에 매우 실행 가능하고 편리한 범용 모델이라는 점을 명심하십시오.

Davinci

위에서 언급했듯이 가장 유능한 모델이며 일반적으로 더 적은 지침으로 다른 모델이 할 수 있는 모든 것을 할 수 있습니다. 레오나르도 다빈치는 논리적 문제를 해결하고, 원인과 결과 관계를 파악하고, 텍스트 의도를 이해하고, 창의적인 콘텐츠를 제작하고, 등장인물의 동기를 설명하고, 복잡한 요약 작업을 처리할 수 있었습니다.

Curie

이 모델은 컴퓨팅 성능과 속도의 균형을 맞추려고 합니다. Ada 또는 Babbage가 할 수 있는 모든 작업을 수행할 수 있지만 더 복잡한 분류 작업과 요약, 감정 분석, 챗봇 애플리케이션 및 질문 응답과 같은 더 미묘한 작업도 처리할 수 있습니다.

Babbage

Ada보다 약간 더 강력하지만 효율적이지는 않습니다. Ada와 동일한 작업을 모두 수행할 수 있지만 약간 더 복잡한 분류 작업도 처리할 수 있으므로 문서가 검색 쿼리와 얼마나 잘 일치하는지 분류하는 의미 검색 작업에 이상적입니다.

Ada

마지막으로 이게 보통 가장 빠르고 저렴한 모델입니다. 텍스트 구문 분석, 텍스트 형식 재지정, 간단한 분류 작업 등 덜 미묘한 작업에 가장 적합합니다. Ada에 더 많은 컨텍스트를 제공할수록 성능이 향상됩니다.

Engine

신호에 대한 최상의 응답을 얻기 위해 조정할 수 있는 다른 매개변수는 모델입니다.

GPT-3 엔진의 출력을 제어하는 가장 중요한 설정 중 하나는 온도입니다. 이 설정은 생성된 텍스트의 임의성을 제어합니다. 값이 0이면 엔진은 결정적입니다. 즉, 주어진 텍스트 입력에 대해 항상 동일한 출력을 생성합니다. 값이 1이면 엔진이 가장 큰 위험을 감수하고 창의성을 많이 사용합니다.

직접 실행할 수 있는 일부 테스트에서 GPT-3가 문장 중간에 멈추는 것을 눈치채셨을 것입니다. 생성할 수 있는 최대 텍스트 양을 제어하려면 토큰에 지정된 "max-length" 설정을 사용할 수 있습니다. 이 토큰이 무엇인지 나중에 설명하겠습니다.

"Top P" 매개변수는 GPT-3 텍스트의 무작위성과 창의성을 제어할 수 있지만, 이 경우 배치 위치에 따라 확률 범위 내의 토큰(단어)과 관련됩니다( 0.1은 10%가 됩니다.) OpenAI 문서에서는 온도와 Top P 사이에 하나의 함수만 사용할 것을 권장하므로 하나를 사용할 때는 다른 하나를 1로 설정해야 합니다.

반면에 GPT-3에서 제공한 답변에 불이익을 주는 두 가지 매개변수가 있습니다. 그 중 하나는 반복적인 예측을 하는 모델의 경향을 제어하는 "빈도 페널티"입니다. 또한 단어가 생성될 확률을 줄이고 단어가 예측에 나타난 횟수에 따라 달라집니다.

두 번째 페널티는 존재 페널티입니다. 페널티 매개변수가 있으면 모델이 새로운 예측을 하도록 장려됩니다. 예측된 텍스트에 단어가 이미 등장한 경우 해당 단어의 확률을 줄이는 페널티가 있습니다. 빈도 페널티와 달리 존재 페널티는 해당 단어가 과거 예측에 얼마나 자주 등장했는지에 좌우되지 않습니다.

마지막으로 쿼리에 대한 여러 답변을 생성하는 "최상의" 매개변수가 있습니다. Playground는 우리에게 가장 적합한 것을 선택합니다. GPT-3는 프롬프트에 대한 몇 가지 완전한 답변으로 인해 더 많은 토큰을 소비하게 될 것이라고 경고합니다.

History

이 섹션을 완료하려면 "제출" 버튼 옆에 있는 세 번째 아이콘에 GPT-3에 대한 모든 과거 요청이 표시됩니다. 여기에서 가장 성과가 좋은 응답에 대한 프롬프트를 찾을 수 있습니다.

수수료 및 토큰

무료 $18 크레딧이 소진되면 GPT-3는 월간 구독이나 그와 유사한 것이 아닌 플랫폼을 계속 사용할 수 있는 방법도 제공합니다. 가격은 사용량과 직접적인 관련이 있습니다. 즉, 토큰에 따라 요금이 부과됩니다. 토큰이 산출물의 비용과 연관되어 있는 인공지능에 사용되는 용어입니다. 토큰은 문자부터 문장까지 무엇이든 될 수 있습니다. 따라서 AI에게 사용량별로 얼마를 주어야 하는지 정확히 알기는 어렵습니다. 그러나 일반적으로 1달러에 1센트에 불과하다는 점을 고려하면 약간의 실험만으로 모든 비용이 얼마인지 확인하는 데 오랜 시간이 걸리지 않습니다.

OpenAI는 GPT-3 사용의 12가지 예만 보여주지만 각 예에 사용된 토큰을 확인하여 작동 방식을 더 잘 이해할 수 있습니다.

버전과 각각의 가격입니다.

GPT-3: 글을 쓸 수 있는 인공지능

특정 단어 수에 대한 비용이 얼마나 되는지에 대한 아이디어를 제공하거나 토큰화가 어떻게 작동하는지에 대한 예를 제공하기 위해 Tokenizer라는 다음 도구가 있습니다.

GPT 시리즈 모델은 텍스트에서 발견되는 일반적인 문자 시퀀스인 토큰을 사용하여 텍스트를 처리한다는 것을 알려줍니다. 모델은 토큰 간의 통계적 관계를 이해하고 생산 순서에서 다음 토큰이 사용될 때 선택됩니다.

마지막으로, 동일한 예시로 인해 비용이 얼마나 드는지에 대한 낮은 수준의 예시가 있습니다.

GPT-3: 글을 쓸 수 있는 인공지능

결론

내 관점에서 GPT-3는 사용자가 올바르게 사용하는 방법을 알아야 하는 도구이지 GPT-3가 반드시 올바른 데이터를 제공하는 것은 아닙니다. 즉, 업무를 수행하거나, 질문에 답변하거나, 숙제를 하는 데 이를 사용하려면 원하는 결과에 가까워지기 위해 제공되는 답변에 대한 좋은 맥락을 제공해야 합니다.

어떤 사람들은 GPT-3가 교육을 바꿀지, 아니면 이로 인해 현재 존재하는 글쓰기 관련 직업이 사라질지 걱정합니다. 나의 겸손한 견해로는 이런 일이 일어날 것입니다. 조만간 우리 모두는 인공지능으로 대체될 것입니다. 이 예는 글쓰기와 관련된 인공지능에 관한 것이지만 프로그래밍, 그림, 오디오 등에 존재합니다.

개인적이든 직업적이든 수많은 직업과 프로젝트에 더 많은 가능성을 열어줍니다. 예를 들어, 공포 이야기를 쓰고 싶었던 적이 있나요? 이 기능은 문법 검사기의 예제 목록에서 구체적으로 구현할 수 있습니다.

너무 많이 말씀드렸지만 제가 말씀드리고 싶은 것은 우리는 아직 인공지능의 초기 버전에 있다는 것입니다. 이 세상에는 아직 성장하고 개선해야 할 제품이 많이 있지만 그렇다고 해서 그런 것은 아닙니다. 구현되지 않았습니다. 우리는 인공지능을 배우고 활용하는 한, 최상의 응답을 제공하기 위해 지속적으로 훈련해야 합니다.