Encore.ts — NestJS 및 Fastify보다 빠른 콜드 스타트-JS 튜토리얼-php.cn

Encore.ts — NestJS 및 Fastify보다 빠른 콜드 스타트

WBOY

풀어 주다： 2024-09-05 06:38:03

원래의

731명이 탐색했습니다.

몇 달 전 우리는 TypeScript용 오픈 소스 백엔드 프레임워크인 Encore.ts를 출시했습니다.

이미 많은 프레임워크가 있으므로 우리는 우리가 내린 특이한 디자인 결정 중 일부와 이것이 어떻게 놀라운 성능 수치로 이어지는지 공유하고 싶습니다.

최근에 Encore.ts가 Express.js에 비해 9배, Fastify에 비해 2배의 요청 처리량을 달성했음을 보여주는 성능 벤치마크를 발표했습니다.

오늘 우리는 Encore.ts가 어떻게 놀라울 정도로 빠른 콜드 스타트 시작 시간을 달성했는지 살펴보며 성능 여정을 계속하겠습니다.

성능 벤치마크

이번에는 Encore.ts, Fastify, NestJS 및 Express를 벤치마킹하여 콜드 시작 시간에 각 프레임워크가 어떻게 작동하는지 확인했습니다.

벤치마크 프로그램은 각각 간단한 스키마가 포함된 10개의 API 엔드포인트를 등록하고 스키마 유효성 검사를 설정합니다.
스키마 검증을 위해 가능한 경우 Zod를 사용했습니다.
Fastify의 경우 공식적으로 지원되는 스키마 검증 라이브러리로 Ajv를 사용했습니다.

JavaScript 코드가 실행되기 시작한 시점부터 서버가 들어오는 요청을 수락할 준비가 될 때까지의 시간을 측정했습니다.
각 벤치마크에 대해 우리는 5번의 실행에서 가장 좋은 결과를 얻었습니다.

말은 이제 그만, 숫자로 파헤쳐봅시다!

Encore.ts 콜드 스타트는 NestJS 및 Fastify보다 17배 빠릅니다.

Encore.ts — Faster cold starts than NestJS & Fastify

(GitHub에서 벤치마크 코드를 확인하세요.)

보시다시피 Encore.ts는 Express보다 5배 이상, NestJS보다 17배 이상 빠른 콜드 시작 시간을 달성했습니다.

어떻게 이것이 가능합니까? 테스트를 통해 Encore.ts의 내부 작동 방식과 관련된 두 가지 주요 성능 소스를 확인했습니다.

하지만 거기에 도달하기 전에 콜드 스타트가 실제로 무엇인지, 그리고 그것이 왜 중요한지에 대해 이야기해 보겠습니다.

콜드 스타트란 무엇입니까?

서버리스의 맥락에서 콜드 스타트는 기본 플랫폼이 들어오는 요청을 처리하기 위해 먼저 서버의 새 인스턴스를 가동해야 하는 경우입니다. (예를 들어 배포 후 요청을 처리하기 위해 서버의 새 인스턴스가 처음 시작되는 것을 의미할 수도 있습니다.)

프로세스가 시작되고 요청을 처리할 준비가 될 때까지 요청이 사실상 보류되므로 콜드 시작 시간을 줄이면 애플리케이션의 롱테일 대기 시간에 큰 영향을 미칠 수 있습니다.

요청을 처리할 때 시스템 일부에서 콜드 스타트가 발생할 가능성이 훨씬 높기 때문에 여러 서버리스 기능이 있는 분산 시스템에 특히 중요합니다.

콜드 스타트의 구조

콜드 스타트 중에 발생하는 정확한 상황은 배포하는 플랫폼(Kubernetes, Lambda, Cloud Run 등)에 따라 조금씩 다릅니다.
그러나 일반적으로 프로세스는 다음과 같습니다.

플랫폼에서 서버리스 기능을 위한 코드/컨테이너 이미지를 다운로드합니다
플랫폼은 컨테이너/서버리스 기능/컨테이너의 새로운 인스턴스를 가동합니다
컨테이너/함수는 자체적으로 초기화됩니다(JavaScript 모듈 가져오기, 초기화 코드 실행 등)

이러한 초기화 단계 후에 콜드 스타트가 완료되고 서버리스 기능이 들어오는 요청 처리를 시작합니다.

처음 두 단계는 대부분 우리가 제어할 수 없으므로(코드/컨테이너의 크기를 최적화하는 것 제외) 세 번째 단계에 집중하겠습니다.

사실 세 번째 단계를 더 자세히 살펴보고 Node.js를 실행한다고 가정하겠습니다.

노드 프로세스가 시작되고 V8 JavaScript 엔진 초기화가 시작됩니다
진입점 파일이 구문 분석되고 로드되고 애플리케이션 코드 실행이 시작됩니다
JavaScript 코드가 import 및 require 문을 실행하면 더 많은 파일이 로드되고 구문 분석되고 실행됩니다. (종속성이 많은 애플리케이션의 경우 여러 번 반복합니다.)

마지막으로 모든 종속성이 로드되고 모든 초기화 코드가 실행되면 컨테이너/서버리스 기능이 들어오는 요청을 처리할 준비가 됩니다.

콜드 스타트 최적화

위의 분석은 최적화를 위한 명확한 목표를 제공하며 Encore.ts는 제어할 수 있는 모든 단계를 대폭 최적화합니다.

최적화 1: Rust 런타임

Encore.ts는 Rust로 구현되어 Node.JS에 기본 모듈로 로드됩니다. 콜드 스타트에는 여러 가지 이점이 있습니다.

파싱하고 실행할 JavaScript가 적습니다. JavaScript는 해석된 언어이므로 모든 JavaScript 코드를 디스크에서 읽고, 구문 분석하고, 실행해야 합니다. 사전 컴파일된 기본 모듈인 Encore.ts는 매우 빠르게 로드되며 JavaScript 엔진(V8)에서 구문 분석하거나 실행할 필요가 없습니다.

NPM 종속성이 없습니다. Encore.ts는 Rust를 사용하여 모든 기능을 구현하므로 NPM 종속성이 전혀 없으므로 콜드 스타트 중에 실행해야 하는 JavaScript의 양이 더욱 줄어듭니다.

사전 컴파일 및 최적화. JavaScript는 반복적으로 실행되는 코드가 JavaScript 엔진에 의해 최적화되는 JIT(Just-In-Time 컴파일)에 크게 의존합니다. 이는 해석된 언어의 경우 많은 의미가 있지만 코드 조각이 처음 실행될 때 실행이 상당히 느려져 콜드 스타트에 상당한 영향을 미친다는 의미이기도 합니다. Encore.ts는 Rust로 구현되므로 실행 중인 플랫폼에 맞게 사전 컴파일되고 최적화되어 있어 처음 실행될 때부터 속도가 빠릅니다.

최적화 2: 효율적인 Docker 이미지

Encore.ts는 기본적으로 변환된 JavaScript와 애플리케이션 실행에 필요한 종속성만 포함하여 축소된 Docker 이미지를 구축합니다. 이렇게 하면 번들 크기가 줄어들고 결과적으로 컨테이너를 다운로드하고 시작하는 데 걸리는 시간이 줄어듭니다.

또한 여러 컴퓨팅 플랫폼에 Docker 이미지 스트리밍에 대한 지원이 추가되었습니다. 즉, 전체 이미지가 다운로드되기 전에 플랫폼에서 컨테이너를 시작할 수 있습니다. Encore.ts에는 이를 위한 지원 기능이 내장되어 있으며 콜드 스타트를 줄이는 데 필요한 이미지 부분의 우선 순위를 자동으로 지정합니다.