首页 > 软件编程 > java > springboot内置tomcat支持最大并发量

springboot内置的tomcat支持最大的并发量问题

作者:Joe world

这篇文章主要介绍了springboot内置的tomcat支持最大的并发量问题,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教

springboot内置的tomcat支持最大的并发量

SpringBoot内置Tomcat,在默认设置中,Tomcat的最大线程数是200,最大连接数是10000。支持的并发量是指连接数,也就是说 支持最大并发量是一万(默认)

Tomcat有两种处理连接的模式

1,是BIO,一个线程只处理一个Socket连接,

2,是NIO,一个线程处理多个Socket连接。

由于HTTP请求不会太耗时,而且多个连接一般不会同时来消息,所以一个线程处理多个连接没有太大问题。一个线程处理多个连接数会很慢 有可能会超时

默认内嵌Tomcat配置

  • server.tomcat.accept-count :等待队列长度,当可分配的线程数全部用完之后,后续的请求将进入等待队列等待,等待队列满后则拒绝处理,默认100。
  • server.tomcat.max-connections :最大可被连接数,默认10000
  • server.tomcat.max-threads :最大工作线程数,默认200,
  • server.tomcat.min-spare-threads :最小工作线程数,初始化分配线程数,默认10

默认配置下,连接超过10000后会出现拒绝连接情况

默认配置下,触发的请求超过200+100后拒绝处理(最大工作线程数+等待队列长度)

如果默认配置无法满足当前需求 可以自己调优 可以手动修改配置来进行处理并发

修改pro文件

server.port=7001
server.tomcat.accept-count=1000
server.tomcat.max-connections=10000
server.tomcat.max-threads=500
server.tomcat.min-spare-threads=100

然后 打包重启项目

kill -9 9545   //杀死进程

ps -ef | grep java   //查看项目启动的端口

pstree -p 7968 | wc -l    //查看进程数

我们也可以使用配置文件, 可以新增WebServerConfiguration.java文件

import org.apache.catalina.connector.Connector;
import org.apache.coyote.http11.Http11NioProtocol;
import org.springframework.boot.web.embedded.tomcat.TomcatConnectorCustomizer;
import org.springframework.boot.web.embedded.tomcat.TomcatServletWebServerFactory;
import org.springframework.boot.web.server.ConfigurableWebServerFactory;
import org.springframework.boot.web.server.WebServerFactoryCustomizer;
import org.springframework.stereotype.Component;
//当Spring容器内没有TomcatEmbeddedServletContainerFactory这个bean时,会吧此bean加载进spring容器中
@Component
public class WebServerConfiguration implements WebServerFactoryCustomizer<ConfigurableWebServerFactory> {
    @Override
    public void customize(ConfigurableWebServerFactory configurableWebServerFactory) {
            //使用对应工厂类提供给我们的接口定制化我们的tomcat connector
        ((TomcatServletWebServerFactory)configurableWebServerFactory).addConnectorCustomizers(new TomcatConnectorCustomizer() {
            @Override
            public void customize(Connector connector) {
                Http11NioProtocol protocol = (Http11NioProtocol) connector.getProtocolHandler();
                //定制化keepalivetimeout,设置30秒内没有请求则服务端自动断开keepalive链接
                protocol.setKeepAliveTimeout(30000);
                //当客户端发送超过10000个请求则自动断开keepalive链接
                protocol.setMaxKeepAliveRequests(10000);

MySQL 数据库 QPS 容量问题:

  • 主键查询: 千万级别数据 == 1-10 ms
  • 唯一索引查询: 千万级别数据 == 10-100 ms
  • 非唯一索引查询: 千万级别数据 == 100-1000ms
  • 无索引数据: 百万级别数据 == 1000ms+

MySQL 数据库 TPS 容量问题:

  • 非插入的更新删除操作: 同查询
  • 插入操作: 1w~10w tps(依赖配置优化)

提高tomcat并发量的几种方法

1、Apache + Tomcat 结合起来用Apache负责静态页面,Tomcat负责动态页面,同时减少connectionTimeout的时间,以应对并发量大线程回收来不及的情况。

2、压力过大的问题,可以做负载均衡,一个TOMCAT无论如何也不可能担当如此多的线程负载,而且JVM过大,其内存管理成本将显著加大。2G的内存,做3-4个TOMCAT实例(512RAM*4),更为科学合理。

3、数据库连接池,不少人,都推荐使用C3P0,能提高访问数据库的并发性能好几倍。

4、采用Tomcat集群可以最大程度的发挥服务器的性能,可以在配置较高的服务器上部署多个Tomcat,也可以在多台服务器上分别部署Tomcat,Apache和Tomcat整合的方式还是JK方式。经过验证,系统对大用户量使用的响应方面,Apache+3Tomccat集群> Apache+2Tomcat集群 > Apache集成Tomcat > 单个Tomcat。并且采用Apache+多Tomcat集群的部署方式时,如果一个Tomcat出现宕机,系统可以继续使用,所以在硬件系统性能足够优越的情况下,需要尽量发挥软件的性能,可以采用增加Tomcat集群的方式。

5、1. 设置MPM(Multi Processing Modules多道处理模块)。ThreadPerChild,这个参数用于设置每个进程的线程数,在Windows环境下默认值是64,最大值是1920,建议设置为100-500之间,服务器性能高的话值大一些,反之小一些。MaxRequestPerChild表示每个子进程能够处理的最大请求数。这个参数的值更大程度上取决于服务器的内存,如果内存比较大的话可以设置为很大的参数,否则设置一个较小的值,建议值是3000.

2. 关闭DNS和名字解析 HostnameLookups off

3. 打开UseCanonicalName模块 UseCanonicalName on

4. 关闭多余模块 一般来说,不需要加载的模块有,mod_include.so、mod_autoindex.so、mod_access.so、mod_auth.so.

5. 打开KeepAlive支持

KeepAlive on, KeepAliveTimeout 15 MaxKeepAliveRequests 1000

根据实际经验,通过Apache和Tomcat集群的方式提高系统性能的效果十分明显,这种方式可以最大化的利用硬件资源,通过多个Tomcat的处理来分担单Tomcat时的压力。

web server允许的最大连接数还受制于操作系统的内核参数设置,通常Windows是2000个左右,Linux是1000个左右。

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

您可能感兴趣的文章:
  • logback之自定义指定日志文件存储目录方式
    logback之自定义指定日志文件存储目录方式
    2023-03-03
  • SpringAOP如何修改请求参数列表
    SpringAOP如何修改请求参数列表
    2023-03-03
  • SpringCloud @RefreshScope刷新机制深入探究
    SpringCloud @RefreshScope刷新机制深入探究
    2023-03-03
  • Java平台调试体系原理分析和实践整理 远程Debug
    Java平台调试体系原理分析和实践整理 远程Debug
    2023-03-03
  • springboot内置的tomcat支持最大的并发量问题
    springboot内置的tomcat支持最大的并发量问题
    2023-03-03
  • springboot整合mybatis实现数据库的更新批处理方式
    springboot整合mybatis实现数据库的更新批处理方式
    2023-03-03
  • Groovy的规则脚本引擎实例解读
    Groovy的规则脚本引擎实例解读
    2023-03-03
  • SpringBoot bean查询加载顺序流程详解
    SpringBoot bean查询加载顺序流程详解
    2023-03-03
  • 美国设下计谋,用娘炮文化重塑日本,已影响至中国
    美国设下计谋,用娘炮文化重塑日本,已影响至中国
    2021-11-19
  • 时空伴随者是什么意思?时空伴随者介绍
    时空伴随者是什么意思?时空伴随者介绍
    2021-11-09
  • 工信部称网盘企业免费用户最低速率应满足基本下载需求,天翼云盘回应:坚决支持,始终
    工信部称网盘企业免费用户最低速率应满足基本下载需求,天翼云盘回应:坚决支持,始终
    2021-11-05
  • 2022年放假安排出炉:五一连休5天 2022年所有节日一览表
    2022年放假安排出炉:五一连休5天 2022年所有节日一览表
    2021-10-26
  • 电脑版 - 返回首页

    2006-2023 脚本之家 JB51.Net , All Rights Reserved.
    苏ICP备14036222号