首頁 > Java > java教程 > 主體

AWS SnapStart - 使用 Lambda 層透過 Java 測量冷啟動和熱啟動部分(2)

WBOY
發布: 2024-09-10 06:36:02
原創
833 人瀏覽過

AWS SnapStart - Part Measuring cold and warm starts with Java using Lambda layer (2)

介紹

在部落格文章如何為 Java 21 Lambda 函數建立、發布和使用層中,我們解釋如何使用 Java 21 發布第一個 Lambda 層。在文章中,使用Lambda 層從Java 21 開始測量冷熱值(1)我們使用此Lambda 層創建應用程序,然後在啟用SnapStart 的情況下測量冷啟動和熱啟動時間,啟用SnapStart 並應用DynamoDB 呼叫啟動優化,並將結果與我們的測量結果進行比較,而無需使用Lambda 層並在POM 文件中提供所有依賴項我們在使用不同的Lambda 內存設置從Java 21 測量冷熱啟動一文中做到了這一點。在本文中,我們將建立另一個 Lambda 層來包含所有依賴項,並在我們的應用程式中使用該層,進行相同的測量並將結果與先前的實驗進行比較。

使用具有所有相依性的 Lambda 層從 Java 21 開始測量冷熱值

為了進行探索,我們將使用範例 Lambda 層來建立 Lambda 層,並使用 Java 21 執行時間將所有 依賴項打包到該層:

  • dynamodb
  • 拉姆達
  • apache 客戶端
  • aws-lambda-java-core
  • aws-lambda-java-events
  • org-crac
  • slf4j-簡單
  • 傑克遜資料格式-xml

我們也將使用範例應用程式。 AWS SAM 範本中基本上定義了 2 個 Lambda 函數,它們都會回應 API 閘道請求並透過從 DynamoDB 從 API 閘道收到的 ID 擷取產品。第一個 Lambda 函數 GetProductByIdWithPureJava21LambdaWithAllLayer 可以在有或沒有 SnapStart 的情況下使用,第二個 GetProductByIdWithPureJava21LambdaAndPrimingWithAllLayer 使用 SnapStart 和 DynamoDB 要求呼叫啟動。

為了將 Lambda 層與先前為 AWS SAM 範本中的 Lambda 函數建立的所有依賴項一起使用,我們必須向 Lambda 函數添加 Layers 參數,如下所示:

    Type: AWS::Serverless::Function
    Properties:
      FunctionName: GetProductByIdWithPureJava21LambdaWithAllLayer
      AutoPublishAlias: liveVersion
      Layers:
        - !Sub arn:aws:lambda:${AWS::Region}:${AWS::AccountId}:layer:aws-pure-java-21-common-lambda-layer:1
      Handler: software.amazonaws.example.product.handler.GetProductByIdHandler::handleRequest
登入後複製

請將層 ARN(包括版本)替換為您自己的,這是發布層命令 (aws lambdapublish-layer-version) 的輸出。

在 pom.xml 中,您可以看到 provided 範圍內的所有依賴項(透過附加的 Lambda 層)。

以下實驗的結果是基於重現超過 100 次冷啟動和大約 100,000 次熱啟動,實驗運行時間約為 1 小時。為此(以及我上一篇文章中的實驗),我使用了負載測試工具嘿,但您可以使用任何您想要的工具,例如 Serverless-artillery 或 Postman。
我透過為 Lambda 函數提供 1024 MB 記憶體並透過環境變數傳遞以下編譯選項來運行所有這些實驗:JAVA_TOOL_OPTIONS: "-XX:+TieredCompilation -XX:TieredStopAtLevel=1"(不進行分析的客戶端編譯)。

在下表中,我還將提供不使用Lambda 層(並在POM 文件中提供所有依賴項)的測量結果,這是我們在使用不同Lambda 內存通過Java 21 測量冷啟動和熱啟動一文中所做的設定和使用普通Lambda層直接進行比較時的測量。
縮寫 c 表示冷啟動,w 表示熱啟動。

不使用 SnapStart 的冷 (c) 和熱 (w) 啟動時間(以毫秒為單位):

Experiment c p50 c p75 c p90 c p99 c p99.9 c max w p50 w p75 w p90 w p99 w p99.9 w max
with all dependencies Lambda Layer 2824.33 2884.24 2963.14 3324.07 3622.44 3625.58 5.50 6.20 7.16 15.50 46.19 1278.41
with common Lambda Layer 3497.91 3597.18 3695.58 3800.47 3908.33 4011.71 5.82 6.72 8.00 17.97 55.48 1709.13
w/o Lambda Layer 3157.6 3213.85 3270.8 3428.2 3601.12 3725.02 5.77 6.50 7.81 20.65 90.20 1423.63

沒有啟動的 SnapStart 的冷 (c) 和熱 (w) 啟動時間(以毫秒為單位):

Experiment c p50 c p75 c p90 c p99 c p99.9 c max w p50 w p75 w p90 w p99 w p99.9 w max
with all dependencies Lambda Layer 1706.64 1767.40 1893.59 2314.91 2646.68 2647.33 5.59 6.25 7.21 15.75 48.06 1403.71
with common Lambda Layer 2047.12 2124.24 2439.49 2705.52 2735.43 2831.59 5.68 6.40 7.45 17.06 48.45 2139.74
w/o Lambda Layer 1626.69 1741.10 2040.99 2219.75 2319.54 2321.64 5.64 6.41 7.87 21.40 99.81 1355.09

使用 SnapStart 和 DynamoDB 呼叫啟動冷 (c) 和熱 (w) 時間(以毫秒為單位):

Experiment c p50 c p75 c p90 c p99 c p99.9 c max w p50 w p75 w p90 w p99 w p99.9 w max
with all dependencies Lambda Layer 747.47 786.56 932.23 1099.38 1666.18 1666.62 5.42 5.91 7.39 16.39 45.09 574.61
with common Lambda Layer 713.88 766.38 1141.94 1181.41 1214.94 1215.32 5.59 6.30 7.39 16.39 45.09 574.61
w/o Lambda Layer 702.55 759.52 1038.50 1169.66 1179.05 1179.36 5.73 6.51 7.87 21.75 92.19 328.41

結論

在本文中,我們使用具有所有依賴項的Lambda 層創建了應用程序,然後在未啟用SnapStart 的情況下測量了冷啟動和熱啟動時間,在啟用SnapStart 的情況下還應用了DynamoDB 呼叫啟動優化,並將結果與我們在不使用Lambda 的情況下的測量結果進行了比較層(並在POM 文件中提供所有依賴項),這是我們在使用不同Lambda 內存設置和通用Lambda 層從Java 21 開始測量冷熱一文中所做的。

即使結果存在一些偏差,但使用具有所有依賴項的 Lambda 層進行多次測量後趨勢始終相同:

  • 未啟用 SnapStart 時,使用此 Lambda 層的冷啟動比不使用 Lambda 層的百分位數高達 p90 的時間低了數百毫秒(這讓我感到驚訝)。
  • 啟用 SnapStart 但不使用 DynamoDB 請求啟動時,冷啟動會有所不同,有利於具有所有依賴項的 Lambda 層,或者有利於根本不使用 Lambda 層的 Lambda,具體取決於百分位。
  • 當使用SnapStart 啟動DynamoDB 請求時,對於高達p99 的百分位的兩種用例,冷啟動都很接近,而當使用帶有所有依賴項的Lambda 層時,對於p99.9 及以上的百分位而言,冷啟動的情況較高。 因此,每個用例的結果差異很大。我一直觀察到,當使用具有所有依賴項的Lambda 層時,所有測量的結果範圍都相當大(p50 和最大值之間有800-900ms 的差異),而當根本不使用Lambda 層時,相同的範圍要低得多。
  • 將本文中的測量值與常見Lambda 層的測量值進行比較時,我們發現,在前2 個實驗中使用Lambda 層中的所有依賴項(未啟用SnapStart 和啟用SnapStart 但未應用啟動)時,冷啟動速度較低,反之亦然。當 SnapStart 已啟用且 DynamoDB 呼叫已準備就緒。
  • 對於所有用例來說,Lambda 函數的熱啟動/執行時間都非常接近。

因此 Lambda 層的使用(取決於您放置的內容以及作為應用程式中的依賴項提供的內容)會增加一些不可預測性,您應該始終進行自己的測量!

以上是AWS SnapStart - 使用 Lambda 層透過 Java 測量冷啟動和熱啟動部分(2)的詳細內容。更多資訊請關注PHP中文網其他相關文章!

來源:dev.to
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板