AWS SnapStart - Bahagian Mengukur sejuk dan hangat bermula dengan Java menggunakan lapisan Lambda (2)-javaTutorial-php.cn

AWS SnapStart - Part Measuring cold and warm starts with Java using Lambda layer (2)

pengenalan

Dalam catatan blog Cara membuat, menerbitkan dan menggunakan lapisan untuk fungsi Java 21 Lambda kami menerangkan cara menerbitkan lapisan Lambda pertama kami dengan Java 21. Dalam artikel Mengukur sejuk dan hangat bermula dengan Java 21 menggunakan lapisan Lambda (1) kami mencipta aplikasi menggunakan lapisan Lambda ini dan kemudian mengukur masa mula sejuk dan hangat tanpa SnapStart didayakan, dengan SnapStart didayakan dan juga menggunakan pengoptimuman penyebuan invokasi DynamoDB dan membandingkan hasilnya dengan ukuran kami tanpa menggunakan lapisan Lambda dan menyediakan semua kebergantungan dalam fail POM yang kami lakukan dalam artikel Mengukur sejuk dan hangat bermula dengan Java 21 menggunakan tetapan memori Lambda yang berbeza. Dalam artikel ini, kami akan mencipta satu lagi lapisan Lambda akan semua kebergantungan dan menggunakan lapisan ini dalam aplikasi kami, membuat ukuran yang sama dan membandingkan hasilnya dengan percubaan sebelumnya.

Mengukur sejuk dan hangat bermula dengan Java 21 menggunakan lapisan Lambda dengan semua kebergantungan

Demi penerokaan kami akan menggunakan sampel lapisan Lambda untuk mencipta lapisan Lambda dengan Java 21 runtime membungkus semua kebergantungan ke dalam lapisan :

dynamodb
lambda
apache-client
aws-lambda-java-core
aws-lambda-java-events
org-crac
slf4j-simple
jackson-dataformat-xml

Kami juga akan menggunakan aplikasi sampel. Pada asasnya terdapat 2 fungsi Lambda yang ditakrifkan dalam templat AWS SAM yang kedua-duanya bertindak balas kepada permintaan Gateway API dan mendapatkan produk melalui id yang diterima daripada Gateway API daripada DynamoDB. Satu fungsi Lambda GetProductByIdWithPureJava21LambdaWithAllLayer boleh digunakan dengan dan tanpa SnapStart dan yang kedua GetProductByIdWithPureJava21LambdaAndPrimingWithAllLayer menggunakan penyebuan permintaan SnapStart dan DynamoDB.

Untuk menggunakan lapisan Lambda dengan semua kebergantungan yang dibuat sebelum ini untuk fungsi Lambda dalam templat SAM AWS, kita perlu menambah parameter Lapisan pada fungsi Lambda seperti ini:

    Type: AWS::Serverless::Function
    Properties:
      FunctionName: GetProductByIdWithPureJava21LambdaWithAllLayer
      AutoPublishAlias: liveVersion
      Layers:
        - !Sub arn:aws:lambda:${AWS::Region}:${AWS::AccountId}:layer:aws-pure-java-21-common-lambda-layer:1
      Handler: software.amazonaws.example.product.handler.GetProductByIdHandler::handleRequest

Salin selepas log masuk

Sila gantikan Layer ARN (termasuk versi) dengan anda sendiri yang merupakan output jika arahan lapisan terbitkan (aws lambda publish-layer-version).

Dalam pom.xml anda melihat semua kebergantungan dengan skop disediakan (oleh lapisan Lambda yang dilampirkan).

Keputusan percubaan di bawah adalah berdasarkan pembiakan lebih daripada 100 sejuk dan kira-kira 100,000 panas bermula dengan eksperimen yang berlangsung selama kira-kira 1 jam. Untuk itu (dan percubaan dari artikel saya sebelum ini) saya menggunakan alat ujian beban hey, tetapi anda boleh menggunakan apa sahaja alat yang anda mahu, seperti Serverless-artillery atau Postman.
Saya menjalankan semua eksperimen ini dengan memberikan fungsi Lambda kami 1024 MB memori dan dengan menghantar pilihan kompilasi berikut melalui pembolehubah persekitaran: JAVA_TOOL_OPTIONS: "-XX:+TieredCompilation -XX:TieredStopAtLevel=1" (kompilasi klien tanpa pemprofilan).

Dalam jadual di bawah, saya juga akan memberikan keputusan dengan ukuran kami tanpa menggunakan lapisan Lambda (dan menyediakan semua kebergantungan dalam fail POM) yang kami lakukan dalam artikel Mengukur sejuk dan hangat bermula dengan Java 21 menggunakan memori Lambda yang berbeza tetapan dan ukuran apabila menggunakan lapisan Lambda biasa untuk mempunyai perbandingan secara langsung.
Singkatan c adalah untuk permulaan sejuk dan w adalah untuk permulaan hangat.

Masa mula sejuk (c) dan hangat (w) tanpa SnapStart dalam ms:

Experiment	c p50	c p75	c p90	c p99	c p99.9	c max	w p50	w p75	w p90	w p99	w p99.9	w max
with all dependencies Lambda Layer	2824.33	2884.24	2963.14	3324.07	3622.44	3625.58	5.50	6.20	7.16	15.50	46.19	1278.41
with common Lambda Layer	3497.91	3597.18	3695.58	3800.47	3908.33	4011.71	5.82	6.72	8.00	17.97	55.48	1709.13
w/o Lambda Layer	3157.6	3213.85	3270.8	3428.2	3601.12	3725.02	5.77	6.50	7.81	20.65	90.20	1423.63

Masa mula sejuk (c) dan hangat (w) dengan SnapStart tanpa Priming dalam ms:

Experiment	c p50	c p75	c p90	c p99	c p99.9	c max	w p50	w p75	w p90	w p99	w p99.9	w max
with all dependencies Lambda Layer	1706.64	1767.40	1893.59	2314.91	2646.68	2647.33	5.59	6.25	7.21	15.75	48.06	1403.71
with common Lambda Layer	2047.12	2124.24	2439.49	2705.52	2735.43	2831.59	5.68	6.40	7.45	17.06	48.45	2139.74
w/o Lambda Layer	1626.69	1741.10	2040.99	2219.75	2319.54	2321.64	5.64	6.41	7.87	21.40	99.81	1355.09

Masa mula sejuk (c) dan hangat (w) dengan SnapStart dan dengan DynamoDB invocation Priming dalam ms:

Experiment	c p50	c p75	c p90	c p99	c p99.9	c max	w p50	w p75	w p90	w p99	w p99.9	w max
with all dependencies Lambda Layer	747.47	786.56	932.23	1099.38	1666.18	1666.62	5.42	5.91	7.39	16.39	45.09	574.61
with common Lambda Layer	713.88	766.38	1141.94	1181.41	1214.94	1215.32	5.59	6.30	7.39	16.39	45.09	574.61
w/o Lambda Layer	702.55	759.52	1038.50	1169.66	1179.05	1179.36	5.73	6.51	7.87	21.75	92.19	328.41

Kesimpulan

Dalam artikel ini kami mencipta aplikasi menggunakan lapisan Lambda dengan semua kebergantungan dan kemudian mengukur masa mula sejuk dan hangat tanpa SnapStart didayakan, dengan SnapStart didayakan dan turut menggunakan pengoptimuman penyebuan invokasi DynamoDB dan membandingkan hasilnya dengan ukuran kami tanpa menggunakan Lambda lapisan (dan menyediakan semua kebergantungan dalam fail POM) yang kami lakukan dalam artikel Mengukur sejuk dan hangat bermula dengan Java 21 menggunakan tetapan memori Lambda yang berbeza dan menggunakan lapisan Lambda biasa.

Walaupun saya mempunyai beberapa penyimpangan dalam keputusan tetapi alirannya sentiasa sama selepas berbilang ukuran menggunakan lapisan Lambda dengan semua kebergantungan:

Apabila tidak mendayakan SnapStart, permulaan sejuk dengan lapisan Lambda ini adalah sehingga beberapa ratus milisaat lebih rendah daripada tanpa penggunaan lapisan Lambda untuk persentil sehingga p90 (yang mengejutkan saya).
Apabila mendayakan SnapStart tetapi tidak menggunakan penyebuan permintaan DynamoDB, sejuk mula berubah memihak kepada lapisan Lambda dengan semua kebergantungan atau memihak kepada Lambda yang tidak menggunakan lapisan Lambda sama sekali bergantung pada persentil.
Apabila menggunakan SnapStart dengan penyebuan permintaan DynamoDB, permulaan sejuk hampir untuk kedua-dua kes penggunaan untuk persentil sehingga p99 dan kemudian lebih tinggi untuk p99.9 dan ke atas apabila menggunakan lapisan Lambda dengan semua kebergantungan. Jadi, keputusannya sangat berbeza untuk setiap kes penggunaan. Apa yang saya selalu perhatikan ialah julat hasil agak besar (perbezaan 800-900ms antara nilai p50 dan maks) untuk semua ukuran apabila menggunakan lapisan Lambda dengan semua kebergantungan dan julat yang sama adalah jauh lebih rendah apabila tidak menggunakan lapisan Lambda sama sekali.
Apabila membandingkan ukuran dalam artikel ini dengan ukuran dengan lapisan Lambda biasa, kami mendapati kami mendapat permulaan sejuk yang lebih rendah untuk menggunakan semua kebergantungan dalam lapisan Lambda untuk 2 percubaan pertama (tiada SnapStart didayakan dan SnapStart didayakan tetapi tiada penyebuan digunakan) dan sebaliknya apabila SnapStart didayakan dan invokasi DynamoDB disediakan.
Masa permulaan/pelaksanaan yang hangat bagi fungsi Lambda agak hampir untuk semua kes penggunaan.

Jadi penggunaan lapisan Lambda (bergantung pada apa yang anda letakkan di sana dan apa yang anda hantar sebagai kebergantungan dalam aplikasi anda) menambahkan sedikit ketidakpastian dan anda harus sentiasa melakukan pengukuran anda sendiri!

Atas ialah kandungan terperinci AWS SnapStart - Bahagian Mengukur sejuk dan hangat bermula dengan Java menggunakan lapisan Lambda (2). Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!