首頁 > Java > java教程 > 主體

如何在SpringBoot中內嵌Tomcat並發容量

WBOY
發布: 2023-05-11 23:13:10
轉載
1172 人瀏覽過

發現並發容器問題

如何在SpringBoot中內嵌Tomcat並發容量

如何在SpringBoot中內嵌Tomcat並發容量

#對單一介面進行6000執行緒壓測,每個執行緒請求5次,執行緒在5秒內創建完畢,當進行一半的時候,已經出現了請求回應時間過大及其錯誤率達到了43%。這個並發容量對於配置比較好點的伺服器相對來說有點弱。

深入SpringBoot底層了解原因

在SpringBoot官方文檔中提到了關於元資料的配置

如何在SpringBoot中內嵌Tomcat並發容量

可以看到,關於我們最常用的設定項目的連接埠的預設配置就在其中。

預設內嵌Tomcat配置

1、server.tomcat.accept-count:等待佇列長度,當可指派的執行緒數全部用完之後,後續的請求將進入等待佇列等待,等待佇列滿後則拒絕處理,預設100。

2、server.tomcat.max-connections:最大可被連線數,預設10000

3、server.tomcat.max-threads:最大工作執行緒數,預設200,

4、server.tomcat.min-spare-threads:最小工作執行緒數,初始化分配執行緒數,預設10

預設配置下,連線超過10000後會出現拒絕連線情況

預設配置下,觸發的請求超過200 100後拒絕處理(最大工作線程數等待隊列長度)

這些元資料Spring當然提供了外部配置功能

#
#更改内嵌tomcat参数
server.port=8080
## 等待队列长度,默认100。
server.tomcat.accept-count=1000
## 最大工作线程数,默认200。(4核8g内存,线程数经验值800,操作系统做线程之间的切换调度是有系统开销的,所以不是越多越好。)
server.tomcat.max-threads=800
## 最小工作空闲线程数,默认10。(适当增大一些,以便应对突然增长的访问量)
server.tomcat.min-spare-threads=100
登入後複製

SpringBoot內建Tomcat,在預設設定中,Tomcat的最大執行緒數是200,最大連線數是10000。支援的並發量是指連接數,200個執行緒如何處理10000條連接的?

目前Tomcat有三種處理連接的模式,一種是BIO,一個執行緒只處理一個連接,另一種就是NIO,一個執行緒處理多個連接。由於HTTP請求不會太耗時,而且多個連線一般不會同時來訊息,所以一個執行緒處理多個連線沒有太大問題。

還有一種是apr模式,後續會詳細介紹一下tomcat的這三種模式,這裡不做深入討論。

Tomcat啟動的時候,可以透過log看到Connector使用的是哪一種運作模式:

Starting ProtocolHandler ["http-bio-8080"]
Starting ProtocolHandler ["http-nio-8080"]
Starting ProtocolHandler ["http-apr-8080"]
登入後複製

預設值可以在spring-boot-autoconfigure-版本號.jar(例如: spring-boot-autoconfigure-2.1.0.RELEASE) 在套件中看到,解壓縮反編譯/web/ServerProperties.class檔案就可以看到預設設定。

如何在SpringBoot中內嵌Tomcat並發容量

客製化內嵌Tomcat開發

如何在SpringBoot中內嵌Tomcat並發容量

#關於KeepAlive

在使用Jmeter的Http請求中預設是開啟KeepAlive的

Http的KeepAlive請求為當我們的客戶端向我們的伺服器發送Http請求的時候,若帶上了KeepAlive的請求頭,則表明我們的Http客戶端希望跟在服務端之間建立一個KeepAlive的連接,這個連接對應的用處就是說,向我們的服務端發送完對應的回應之後,我們的服務端不要立刻斷開連接,而是等待嘗試復用連接。

此解決方案是用來解決Http的一個回應,無狀態,每次都要斷開連接,新建連接所帶來的耗時問題。

但如果說我們每個網頁請求打開之後都跟服務端保持一個長連接,那麼我們服務端的連接數很快就會被用完了,因此再最早的Http1.0的時候是沒有設計KeepAlive的請求的,但是現在的Http1.1加上KeepAlive請求,目的就是越來越多的移動端的設備,甚至於一些很複雜的網頁交互,需要在用戶瀏覽的過程當中,頻繁的向服務端發送請求,因此,建立一個KeepAlive連接,並非為了壓測的目的,而是真正的在應用場景上是有一些性能的好處的,無論是客戶端還是服務端,在做一些網絡通信的交互上面,無需每次都新建連接,斷開連接,耗費Tcp/Ip建連的時間,而僅需要發送數據即可。

但是這樣的設計也會帶來一些問題,如果說我們的服務端對KeepAlive的操作沒有做任何限制1.連接不做任何操作,不做任何響應,那麼這條連接對服務端來說就是一條費連接2.有一些攻擊者惡意利用KeepAlive連接向我們的服務端發送DDOS的攻擊,那服務端對應的連接只會成為攻擊者攻擊的後門,因此,為了安全,我們需要定制化Tomcat開發

配置

1、KeepAliveTimeOut:多少毫秒後客戶端不回應則斷開KeepAlive

##2、maxKeepAliveRequests:多少次請求後KeepAlive斷開失效

在SpringBoot官方文档中提到了对内嵌容器的配置

如何在SpringBoot中內嵌Tomcat並發容量

//当spring容器内没有TomcatEmbeddedServletContainerFactory这个bean时,会把bean加载进spring容器
@Configuration
public class WebServerConfiguration implements WebServerFactoryCustomizer<configurablewebserverfactory> {
@Override
public void customize(ConfigurableWebServerFactory factory) {
  //使用对应工厂类提供给我们的接口定制化我们的tomcat connector
  ((TomcatServletWebServerFactory)factory).addConnectorCustomizers(new TomcatConnectorCustomizer() {
    @Override
    public void customize(Connector connector) {
      Http11NioProtocol protocol= (Http11NioProtocol) connector.getProtocolHandler();
      //定制KeepAliveTimeout,设置30秒内没有请求则服务器自动断开keepalive连接
      protocol.setKeepAliveTimeout(30000);
      //当客户端发送超过10000个请求则自动断开keepalive连接
      protocol.setMaxKeepAliveRequests(10000);
    }
  });
}
}</configurablewebserverfactory>
登入後複製

以上是如何在SpringBoot中內嵌Tomcat並發容量的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
來源:yisu.com
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板
關於我們 免責聲明 Sitemap
PHP中文網:公益線上PHP培訓,幫助PHP學習者快速成長!