Kemas kini besar ChatGPT! OpenAI menawarkan pengaturcara pakej hadiah: API menambah keupayaan membunuh dan harga dikurangkan, model baharu dan empat kali konteks akan datang

ChatGPT berkembang semula dalam sekelip mata, dan OpenAI melancarkan sejumlah besar kemas kini sekali gus!

Inti ialah keupayaan memanggil fungsi baharu API Sama seperti versi web pemalam, API juga boleh menggunakan alat luaran.

Keupayaan ini diletakkan di tangan pembangun, dan keupayaan yang pada asalnya tidak dimiliki oleh API ChatGPT juga boleh diselesaikan oleh pelbagai perkhidmatan pihak ketiga.

Sesetengah orang berpendapat bahawa ini adalah ciri mematikan dan kemas kini yang paling penting sejak keluaran ChatGPT API.

Selain itu, kemas kini tentang API ChatGPT iniSetiap satu sangat penting, bukan sahaja kapasiti ditingkatkan, tetapi harganya juga lebih rendah:

• Melancarkan versi baharu model gpt-4-0613 dan gpt-3.5-turbo-0613
• panjang konteks gpt-3.5-turbo meningkat sebanyak 400%, daripada 4k kepada 16k
• harga token input gpt-3.5-turbo dikurangkan sebanyak 25%
• Harga model benam paling canggih dikurangkan sebanyak 75%
• GPT-4 API dibuka secara besar-besaran sehingga senarai baris gilir dikosongkan

Apabila berita itu sampai ke China, sesetengah netizen percaya bahawa ini adalah cabaran besar yang dihadapi oleh model besar domestik.

API menentukan masa untuk menggunakan alat

Menurut pengenalan rasmi OpenAI, panggilan fungsi menyokong kedua-dua versi baharu GPT-4 dan GPT -3.5.

Pembangun hanya memerlukan model untuk menerangkan fungsi yang mereka perlu gunakan Masa untuk memanggil fungsi yang ditentukan oleh model itu sendiri berdasarkan kata gesaan, yang merupakan mekanisme yang sama seperti pemalam panggilan ChatGPT.

Untuk kaedah penggunaan khusus, pegawai memberikan tiga contoh:

Pertama , chatbot memanggil API luaran untuk melaksanakan operasi atau menjawab soalan. , seperti "Hantar e-mel kepada seseorang" atau "Bagaimana keadaan cuaca hari ini?"

Kedua , tukar bahasa semula jadi kepada panggilan API atau pertanyaan pangkalan data, seperti "Berapa banyak pesanan yang ada pada bulan lepas? " ” akan menjana pernyataan pertanyaan SQL secara automatik.

Ketiga , secara automatik mengekstrak data berstruktur daripada teks, contohnya, anda hanya perlu mentakrifkan "nama, hari lahir" , lokasi" dan memberikan pautan web, anda boleh mengekstrak secara automatik semua maklumat aksara yang disebut dalam artikel Wikipedia.

Ciri baharu ini telah menceriakan majoriti netizen, terutamanya pembangun, dengan mengatakan bahawa dengannya, kecekapan kerja akan dipertingkatkan dengan ketara.

Pada masa lalu, jika anda mahu GPT memanggil fungsi, anda perlu menggunakan alatan LangChain.
...
Walaupun LangChain secara teorinya mempunyai kecekapan operasi yang lebih tinggi, kebolehpercayaannya adalah lebih rendah daripada GPT baharu yang ditala khas.

Versi yang dikemas kini, harga yang lebih rendah

Pada masa ini, versi baharu model telah mula berulang secara beransur-ansur.

Versi terkini gpt-4-0613, gpt-3.5-turbo-0613 dan panjang konteks lanjutan gpt-4-32k-0613 semua panggilan fungsi sokongan.

gpt-3.5-turbo-16k tidak menyokong panggilan fungsi dan menyediakan 4 kali panjang konteks, yang bermaksud bahawa satu permintaan boleh menyokong kira-kira 20 halaman teks.

Model lama juga mula dihapuskan secara berperingkat.

Apl yang menggunakan versi awal gpt-3.5-turbo dan gpt-4 akan ditingkatkan secara automatik kepada versi baharu pada 27 Jun

Pembangun yang memerlukan lebih banyak masa untuk beralih juga boleh menentukan secara manual untuk teruskan Gunakan versi lama, tetapi semua permintaan untuk versi lama akan menjadi usang sepenuhnya selepas 13 September.

Selepas bercakap tentang garis masa ini, mari kita lihat harganya.

Selepas naik taraf, OpenAI bukan sahaja tidak menaikkan harga produk, malah turut menurunkan harga.

Yang pertama ialah gpt-3.5-turbo yang paling biasa digunakan (versi token 4k).

Harga token input telah dikurangkan sebanyak 25%, dan kini US$0.0015 setiap seribu token, iaitu 666,000 token setiap US$1.

Harga token keluaran bagi setiap seribu token ialah AS$0.002, iaitu 500,000 token setiap AS$1.

Jika ditukar kepada teks bahasa Inggeris, ia adalah kira-kira 1 dolar AS dan 700 halaman.

Harga model benam telah menjunam, secara langsung dikurangkan sebanyak 75%.

Setiap ribu token hanya berharga 0.0001 USD, iaitu 1 USD dan 10 juta token.

Selain itu, versi token 16K yang baru dilancarkan bagi GPT3.5-Turbo menyediakan empat kali kuasa pemprosesan versi 4K, tetapi harganya hanya dua kali ganda.

Harga token input dan output masing-masing ialah AS$0.003 dan AS$0.004 setiap seribu token.

Selain itu, segelintir netizen melaporkan bahawa bil bulanan turun daripada 100 kepada beberapa sen Tidak jelas situasi khusus.

Akhir sekali, jangan lupa untuk beratur untuk mendapatkan kelayakan ujian API GPT-4 jika perlu.

OpenAI menangkap "Rantai", Microsoft berada di belakang

Ramai netizen menyatakan bahawa "panggilan fungsi" baru OpenAI pada asasnya adalah replika "Alat" dalam Langchain.

Mungkin pada masa hadapan, OpenAI juga akan menyalin lebih banyak fungsi Langchain, seperti Rantaian dan Indeks.

Langchain ialah rangka kerja pembangunan sumber terbuka paling popular dalam bidang model besar, yang boleh menyepadukan pelbagai keupayaan model besar untuk membina aplikasi dengan cepat.

Pasukan itu juga baru-baru ini menerima AS$10 juta dalam pembiayaan pusingan benih.

Walaupun kemas kini OpenAI ini tidak akan "membunuh" projek keusahawanan Langchain secara langsung.

Tetapi pembangun pada asalnya memerlukan LangChain untuk melaksanakan beberapa fungsi, tetapi kini mereka tidak lagi memerlukannya.

Melihat reaksi Langchain, keinginan untuk terus hidup memang sangat kuat.

Dalam masa 10 minit selepas OpenAI mengeluarkan kemas kini secara rasmi, Langchain segera mengumumkan bahawa ia "sudah mengusahakan keserasian."

Dan versi baharu dikeluarkan dalam masa kurang daripada satu jam Selain menyokong fungsi rasmi baharu, ia juga boleh menukar alatan yang telah ditulis oleh pembangun kepada fungsi OpenAI.

Selain beratur untuk meratapi kepantasan pembangunan yang tidak masuk akal, netizen juga memikirkan soalan yang tidak dapat dielakkan:

Apakah yang perlu anda lakukan jika OpenAI memusnahkan projek keusahawanan anda?

Sehubungan itu, Ketua Pegawai Eksekutif OpenAI Sam Altman baru sahaja membuat kenyataan baru-baru ini.

Pada mesyuarat pertukaran yang diadakan oleh Humanloop pada akhir Mei, Altman pernah berkata:

Dengan pengecualian aplikasi pengguna seperti ChatGPT, cuba elakkan bersaing dengan pelanggan.

Kini nampaknya alat pembangunan tidak termasuk dalam skop mengelakkan persaingan.

Selain pemula, terdapat satu lagi entiti yang tidak boleh diabaikan yang bersaing dengan OpenAI:

Microsoft, penaja terbesar OpenAI, turut menyediakan perkhidmatan OpenAI API melalui awan Azure.

Baru-baru ini, beberapa pembangun telah melaporkan bahawa selepas bertukar daripada API OpenAI rasmi kepada versi Microsoft Azure, prestasi telah meningkat dengan ketara.

Khususnya:

• kependaman median dikurangkan daripada 15 saat kepada 3 saat
• Kependaman persentil ke-95 dikurangkan daripada 60 saat kepada 15 saat
• Purata bilangan token yang diproses sesaat meningkat tiga kali ganda, daripada 8 meningkat kepada 24.

Termasuk beberapa diskaun dari Azure, malah lebih murah berbanding sebelum ini.

Tetapi kelajuan kemas kini Microsoft Azure biasanya beberapa minggu lebih perlahan daripada OpenAI.

Gunakan OpenAI untuk lelaran pantas semasa fasa pembangunan, dan beralih ke Microsoft Azure untuk penggunaan berskala besar Adakah anda telah mempelajari sesuatu?

Kemas kini pengumuman https://openai.com/blog/function-calling-and-other-api-updates.

Baris gilir API GPT-4 https://openai.com/waitlist/gpt-4-api.

Pautan rujukan:
[1]https://news .ycombinator.com/item?id=36313348.

[2]https://twitter.com/svpino/status/1668695130570903552.

[3]https://weibo.com/1727858283/N5cjr0jBq.

[4]https://twitter.com/LangChainAI/status/1668671302624747520.

[5]https://twitter.com/hwchase17/status/1668682373767020545.

[6]https://twitter.com/ItakGol/status/1668336193270865921.

Atas ialah kandungan terperinci Kemas kini besar ChatGPT! OpenAI menawarkan pengaturcara pakej hadiah: API menambah keupayaan membunuh dan harga dikurangkan, model baharu dan empat kali konteks akan datang. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!