Encore.ts — Permulaan sejuk yang lebih cepat daripada NestJS & Fastify

Beberapa bulan lalu kami mengeluarkan Encore.ts — rangka kerja bahagian belakang Sumber Terbuka untuk TypeScript.

Memandangkan sudah banyak rangka kerja di luar sana, kami ingin berkongsi beberapa keputusan reka bentuk terpencil yang telah kami buat dan cara ia membawa kepada angka prestasi yang luar biasa.

Kami baru-baru ini menerbitkan penanda aras prestasi yang menunjukkan bahawa Encore.ts mencapai 9x pemprosesan permintaan berbanding Express.js dan 2x berbanding Fastify.

Hari ini, kami meneruskan perjalanan prestasi kami dengan menyelami cara Encore.ts mencapai sangat pantas masa permulaan yang sejuk.

Penanda aras prestasi

Kali ini kami telah menanda aras Encore.ts, Fastify, NestJS dan Express untuk melihat prestasi setiap rangka kerja apabila tiba masa permulaan yang sejuk.

Atur cara penanda aras mendaftarkan 10 titik akhir API, setiap satu dengan skema mudah dan menyediakan pengesahan skema.
Untuk pengesahan skema kami menggunakan Zod jika boleh.
Dalam kes Fastify, kami menggunakan Ajv sebagai pustaka pengesahan skema yang disokong secara rasmi.

Kami mengukur masa dari kod JavaScript mula dilaksanakan sehingga pelayan bersedia untuk menerima permintaan masuk.
Untuk setiap penanda aras kami mengambil keputusan terbaik daripada lima larian.

Cukup cakap, mari kita gali nombor!

Permulaan sejuk Encore.ts adalah 17x lebih pantas daripada NestJS dan Fastify

(Lihat kod penanda aras pada GitHub.)

Seperti yang anda lihat, Encore.ts mencapai masa permulaan sejuk yang pantas, lebih 5x lebih pantas daripada Express dan lebih 17x lebih pantas daripada NestJS.

Bagaimana ini boleh berlaku? Daripada ujian kami, kami telah mengenal pasti dua sumber prestasi utama, kedua-duanya berkaitan dengan cara Encore.ts berfungsi di bawah hud.

Tetapi sebelum kita sampai ke sana, mari kita bincangkan tentang apa sebenarnya permulaan sejuk, dan mengapa ia penting.

Apakah permulaan yang sejuk?

Dalam konteks tanpa pelayan, permulaan yang dingin ialah apabila platform yang mendasari perlu memutarkan tika baharu pelayan anda untuk menyampaikan permintaan masuk. (Ia juga boleh merujuk pada kali pertama tika baharu pelayan anda dimulakan untuk mengendalikan permintaan, contohnya selepas penempatan.)

Memandangkan permintaan ditangguhkan dengan berkesan sehingga proses bermula dan bersedia untuk mengendalikan permintaan, mengurangkan masa permulaan sejuk boleh memberi kesan besar pada kependaman ekor panjang permohonan anda.

Ini amat penting untuk sistem yang diedarkan di mana anda mempunyai berbilang fungsi tanpa pelayan, kerana kemungkinan besar anda akan mengalami permulaan yang sejuk di sesetengah bahagian sistem apabila mengendalikan permintaan.

Anatomi permulaan sejuk

Tepatnya perkara yang berlaku semasa permulaan sejuk bergantung sedikit pada platform yang anda gunakan (Kubernetes, Lambda, Cloud Run, dll.).
Tetapi secara umum, prosesnya kelihatan seperti ini:

1. Platform memuat turun kod/imej bekas untuk fungsi tanpa pelayan
2. Platform memutarkan contoh baharu bagi bekas/fungsi tanpa pelayan/bekas
3. Bekas/fungsi memulakan dirinya sendiri (mengimport modul JavaScript, menjalankan kod permulaan, dsb.)

Selepas langkah permulaan ini, permulaan sejuk selesai dan fungsi tanpa pelayan mula memproses permintaan masuk.

Dua langkah pertama sebahagian besarnya di luar kawalan kami (selain dengan memastikan saiz kod/bekas dioptimumkan), jadi mari kita tumpukan perhatian kita pada langkah ketiga.

Malah, mari kita pecahkan lagi langkah ketiga, dan dengan anggapan kita menjalankan Node.js:

1. Proses nod bermula dan mula memulakan enjin JavaScript V8
2. Fail titik masuk dihuraikan, dimuatkan dan mula melaksanakan kod aplikasi
3. Apabila kod JavaScript melaksanakan import dan memerlukan penyataan, namun lebih banyak fail dimuatkan, dihuraikan dan dilaksanakan. (Ulang banyak kali untuk aplikasi yang mempunyai banyak kebergantungan.)

Akhir sekali, selepas semua kebergantungan telah dimuatkan dan semua kod permulaan telah dilaksanakan, fungsi bekas/tanpa pelayan bersedia untuk mengendalikan permintaan masuk.

Mengoptimumkan permulaan sejuk

Pecahan di atas memberikan kita sasaran yang jelas untuk pengoptimuman dan Encore.ts mengoptimumkan semua langkah yang dikawalnya.

Pengoptimuman 1: Masa jalan karat

Encore.ts dilaksanakan dalam Rust dan dimuatkan ke Node.JS sebagai modul asli. Ini mempunyai beberapa faedah untuk permulaan sejuk:

Kurang JavaScript untuk dihuraikan dan dilaksanakan. Memandangkan JavaScript ialah bahasa yang ditafsirkan, semua kod JavaScript perlu dibaca daripada cakera, dihuraikan dan dilaksanakan. Encore.ts, sebagai modul asli yang telah dikompilasi, dimuatkan dengan sangat cepat dan tidak perlu dihuraikan atau dilaksanakan oleh enjin JavaScript (V8).

Sifar NPM tanggungan. Memandangkan Encore.ts melaksanakan semua fungsinya menggunakan Rust, ia tidak mempunyai sebarang kebergantungan NPM, yang seterusnya mengurangkan jumlah JavaScript yang perlu dilaksanakan semasa permulaan sejuk.

Pra-disusun dan dioptimumkan. JavaScript sangat bergantung pada kompilasi tepat dalam masa (JIT), di mana kod yang dilaksanakan berulang kali akan dioptimumkan oleh enjin JavaScript. Ini sangat masuk akal untuk bahasa yang ditafsirkan, tetapi ini juga bermakna pelaksanaan agak perlahan pada kali pertama sekeping kod dijalankan, yang memberi kesan kepada permulaan sejuk dengan ketara. Memandangkan Encore.ts dilaksanakan dalam Rust, ia telah disusun terlebih dahulu dan sangat dioptimumkan untuk platform yang sedang dijalankan, yang bermaksud ia pantas dari kali pertama ia dilaksanakan.

Pengoptimuman 2: Imej Docker yang cekap

Encore.ts secara lalai membina imej Docker yang diperkecil, dengan hanya memasukkan JavaScript yang ditranspilkan dan kebergantungan yang diperlukan untuk menjalankan aplikasi. Ini mengurangkan saiz berkas, yang seterusnya mengurangkan masa yang diperlukan untuk memuat turun dan memulakan bekas.

Selain itu, beberapa platform pengiraan telah menambah sokongan untuk menstrim imej Docker, yang bermaksud bahawa platform boleh memulakan bekas sebelum keseluruhan imej telah dimuat turun. Encore.ts mempunyai sokongan terbina dalam untuk ini dan secara automatik mengutamakan bahagian imej yang diperlukan untuk mengurangkan permulaan sejuk.

Membungkus

Dengan menggabungkan masa jalan Rust dengan imej Docker yang dioptimumkan, Encore.ts dapat mencapai masa mula sejuk yang luar biasa, yang boleh memberi kesan besar pada kependaman ekor panjang aplikasi anda.

Jika prestasi penting untuk projek anda, mungkin idea yang baik untuk mencuba Encore.ts.

Dan semuanya adalah Sumber Terbuka, jadi anda boleh menyemak kod dan menyumbang di GitHub.

Atau cuba sahaja dan beritahu kami pendapat anda!

Atas ialah kandungan terperinci Encore.ts — Permulaan sejuk yang lebih cepat daripada NestJS & Fastify. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!