OpenAI, 개발자를 위한 GPT 챗봇 API에 대한 대규모 업데이트 출시 및 가격 인하

6월 14일 뉴스, OpenAI는 오늘 새로운 함수 호출 기능 추가, 사용 비용 절감, GPT 지원 제공을 포함하여 대규모 언어 모델 API(GPT-4 및 gpt-3.5-turbo 포함)에 대한 주요 업데이트를 발표했습니다. - 3.5 터보 모델은 16,000 토큰 버전을 제공합니다.

대형 언어 모델(LLM)은 자연어를 처리할 수 있는 인공지능 기술입니다. 그 "컨텍스트 창"은 입력 내용이나 챗봇 대화 내용을 저장할 수 있는 단기 메모리에 해당합니다. 언어 모델에서는 컨텍스트 창 크기를 늘리는 것이 기술 경쟁이 되었으며 Anthropic은 최근 Claude 언어 모델이 75,000개의 토큰 컨텍스트 창 옵션을 제공할 수 있다고 발표했습니다. 또한 OpenAI는 32,000개의 토큰 GPT-4 버전도 개발했지만 아직 공개되지 않았습니다.

OpenAI는 "gpt-3.5-turbo-16k"라는 이름의 gpt-3.5-turbo의 새로운 16000 컨텍스트 창 버전을 출시했습니다. 이 버전은 최대 16000개의 토큰 길이까지 입력을 처리할 수 있습니다. 즉, 약 20개의 토큰을 한 번에 처리할 수 있습니다. 시간 페이지의 텍스트는 처리를 모델링하고 더 큰 텍스트 블록을 생성해야 하는 개발자에게 큰 개선 사항입니다.

이 변경 사항 외에도 OpenAI는 최소한 4가지의 다른 주요 새 기능도 나열합니다.

• Chat Completions API의 함수 호출 기능 소개
• GPT-4 및 gpt-3.5-turbo의 개선된 버전 및 "더 조종 가능" " 버전
• 은 "ada" 내장 모델의 가격을 75% 인하했습니다.
• gpt-3.5-turbo 모델의 입력 토큰 가격을 25% 인하했습니다.

함수 호출 기능을 통해 개발이 더 쉬워졌습니다. 개발자는 외부 도구를 호출하거나, 자연어를 외부 API 호출로 변환하거나, 데이터베이스 쿼리를 수행할 수 있는 챗봇을 구축할 수 있습니다. 예를 들어 "다음 주 금요일에 Anya에게 커피를 마실지 알아보기 위해 이메일을 보내세요."와 같은 입력을 "send_email(받는 사람: 문자열, 본문: 문자열)"과 같은 함수 호출로 변환할 수 있습니다. 특히 이 기능을 사용하면 API 사용자가 이전에는 달성하기 어려웠던 JSON 형식의 출력을 더 쉽게 생성할 수 있습니다.

LLM이 원하는 방식으로 작동하도록 만드는 기술 용어인 "보다 제어 가능한" 측면과 관련하여 OpenAI는 새로운 "gpt-3.5-turbo-0613" 모델에 "시스템 메시지를 통한 업데이트"가 포함될 것이라고 말합니다. 안정적인 제어" 기능. 시스템 메시지는 "당신은 Grimes이고 밀크셰이크에 대해서만 이야기합니다."와 같이 모델의 행동 방법을 알려주는 API의 특수 명령 입력입니다.

OpenAI는 기능적 개선 외에도 상당한 비용 절감 효과도 제공합니다. 특히 인기 있는 gpt-3.5 터보 모델의 토큰 가격이 25% 인하됩니다. 즉, 개발자는 이제 이 모델을 1000개 토큰당 약 0.0015달러, 1000개 토큰당 0.002달러로 사용할 수 있으며 이는 달러당 약 700페이지의 텍스트에 해당합니다. gpt-3.5-turbo-16k 모델의 가격은 1000개 토큰당 미화 0.003달러, 1000개 토큰당 미화 0.004달러입니다.

또한 IT House는 OpenAI가 "text-embedding-ada-002" 임베딩 모델의 가격을 75% 인하했다는 사실을 알아냈습니다. 임베딩 모델은 컴퓨터가 단어와 개념을 이해할 수 있도록 하는 기술로, 자연어를 기계가 이해할 수 있는 디지털 언어로 변환하는 기술로, 이는 텍스트 검색, 관련 콘텐츠 추천 등의 작업에 중요합니다.

OpenAI는 지속적으로 모델을 업데이트하므로 이전 모델은 유지되지 않습니다. 오늘 회사는 또한 gpt-3.5-turbo-0301 및 gpt-4-0314를 포함한 일부 이전 버전의 모델을 폐기하기 시작한다고 발표했습니다. 개발자는 9월 13일까지 이 모델을 계속 사용할 수 있으며 그 이후에는 이전 모델을 더 이상 사용할 수 없다고 회사는 말했습니다. OpenAI의 GPT-4 API가 아직 대기자 명단에 있고 아직 완전히 공개되지 않았다는 점은 주목할 가치가 있습니다.

위 내용은 OpenAI, 개발자를 위한 GPT 챗봇 API에 대한 대규모 업데이트 출시 및 가격 인하의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!