Spring Cloud 部署上线性能调优面向 Spring Cloud 微服务集群上线前的调优清单JVM → Nginx → 服务器内核 → Tomcat → 应用层 → 数据库 → 集群部署。目录一、JVM 内存与 GC 调优二、Nginx 调优三、服务器句柄与内核参数调优四、应用 Tomcat 连接数调优五、应用层优化六、数据库连接 / 会话数调优七、集群部署Nginx Gateway Nacos八、上线检查清单与压测验收一、JVM 内存与 GC 调优1.1 参数速查参数含义建议-Xms堆内存初始大小生产建议与-Xmx相同避免运行期扩容抖动-Xmx堆内存最大值默认约为物理内存 1/4按服务数量规划单实例一般 2~8G-Xmn新生代大小使用G1 时不要设置G1 自动管理Parallel/CMS 可调-Xss每个线程的 Stack 大小默认 1M微服务线程多可适当降到 512K但递归深的场景别调小-XX:MetaspaceSizeMetaspace 初始阈值触发首次 GC 的水位建议 256M避免启动后频繁 Full GC-XX:MaxMetaspaceSizeMetaspace 上限建议 512M防止元空间无限膨胀导致 OOM-XX:NewSize/-XX:MaxNewSize新生代初始/最大仅 Parallel / CMS 场景有意义G1 不推荐~~-XX:PermSize / -XX:MaxPermSize~~永久代JDK7 及以前JDK8 已废弃请改用 Metaspace 参数补充GC 相关参数含义-XX:UseG1GC使用 G1 收集器JDK8 的通用推荐-XX:MaxGCPauseMillis200G1 目标停顿时间-XX:UseZGC大堆、超低停顿JDK11 可用JDK15 生产就绪-XX:HeapDumpOnOutOfMemoryErrorOOM 时自动导出堆快照便于定位-XX:HeapDumpPath堆快照输出路径-Xloggc:/-XX:PrintGCDetails/-XX:PrintGCDateStampsJDK8 的 GC 日志JDK9 改用-Xlog:gc*-XX:UseGCLogFileRotation -XX:NumberOfGCLogFiles10 -XX:GCLogFileSize100mGC 日志滚动防止撑爆磁盘-XX:MaxRAMPercentage60按容器/物理内存百分比设置堆JDK8u191 支持适合容器化多实例1.3 推荐配置 A单服务独占 16G 机器nohupjava-server\-Xms8g-Xmx8g\-XX:MetaspaceSize256m-XX:MaxMetaspaceSize512m\-Xss512k\-XX:UseG1GC-XX:MaxGCPauseMillis200\-XX:HeapDumpOnOutOfMemoryError-XX:HeapDumpPath/opt/logs/heapdump.hprof\-Xloggc:/opt/logs/gc.log-XX:PrintGCDetails-XX:PrintGCDateStamps\-XX:UseGCLogFileRotation-XX:NumberOfGCLogFiles10-XX:GCLogFileSize100m\-Duser.timezoneGMT8-Dfile.encodingUTF-8\-jarproject.jar/opt/logs/app.out21堆取 8G约物理内存 50%其余留给系统、Metaspace、线程栈、直接内存Netty/NIO、page cacheG1 下不要再设-Xmn堆一般不超过 32G再大停顿反而升高超过考虑 ZGC。1.4 推荐配置 B同机部署多个微服务Spring Cloud 常见多个 jar 跑在一台机器上时最关键的是总量控制不能每个都写 8G否则 OOM 会被系统 Killer 直接杀掉进程。# 每个实例按内存百分比自适应容器/多实例场景推荐nohupjava-server\-XX:InitialRAMPercentage50-XX:MaxRAMPercentage50\-XX:MetaspaceSize128m-XX:MaxMetaspaceSize256m\-Xss512k-XX:UseG1GC-XX:MaxGCPauseMillis200\-XX:HeapDumpOnOutOfMemoryError-XX:HeapDumpPath/opt/logs/heapdump.hprof\-Duser.timezoneGMT8-Dfile.encodingUTF-8\-jarservice-a.jar/opt/logs/service-a.out21或固定值16G 机器跑 4 个微服务 → 每个-Xms2g -Xmx2g合计 8G留 8G 给系统与其他组件。经验公式Σ(各实例堆) Metaspace 线程栈 直接内存 操作系统预留 ≤ 物理内存一般堆总量不超过物理内存的 60%~70%。1.5 调优思路顺序不要反先优化业务代码内存泄漏、大对象、一次性全量查询再选收集器小堆低延迟用 G1大堆优先 ZGC简单批处理可用 Parallel设定堆大小并保持-Xms-Xmx打开 GC 日志采集停顿时间、GC 频率、吞吐量、老年代晋升速率观察 YGC 频率 / Full GC 次数 / 晋升速率 → 调整参数 →压测验证线上不要随手改参数改动必须走压测。二、Nginx 调优nginx.conf顶部worker相关需在main段# 1. 进程数按 CPU 核数指定2 个四核 CPU 记为 8或直接 auto worker_processes 8; # 2. CPU 亲和性把 8 个进程分别绑定到 8 个核 worker_cpu_affinity 00000001 00000010 00000100 00001000 00010000 00100000 01000000 10000000; # 3. 单进程可打开的文件描述符数建议与 ulimit -n 保持一致 worker_rlimit_nofile 65535; events { # 单进程最大连接数与 worker_rlimit_nofile 配合注意 1 个请求可能占用 2 个连接 worker_connections 65535; use epoll; multi_accept on; }补充建议HTTP 层http { sendfile on; # 零拷贝 tcp_nopush on; tcp_nodelay on; keepalive_timeout 65; client_max_body_size 100m; # 与后端上传大小限制保持一致 gzip on; # 文本类响应压缩 gzip_min_length 1k; gzip_comp_level 5; gzip_types text/plain text/css application/json application/javascript; # 上游连接复用降低握手开销 upstream gateway_cluster { server 192.168.1.11:8080 max_fails3 fail_timeout10s; server 192.168.1.12:8080 max_fails3 fail_timeout10s; keepalive 64; } }要点worker_rlimit_nofile与系统ulimit -n一致否则会报 “too many open files”worker_connections上限还受worker_rlimit_nofile限制有缓存/限流需求再引入proxy_cache、limit_req避免一上来就堆参数。三、服务器句柄与内核参数调优3.1 临时生效ulimit-n655353.2 永久生效/etc/security/limits.conf# open files (-n) * soft nofile 65536 * hard nofile 65536 root soft nofile 65536 root hard nofile 65536 # max user processes (-u) * soft nproc 65565 * hard nproc 65565 root soft nproc 65565 root hard nproc 65565重要通过 systemd 托管的服务systemctl start xxx不会读取limits.conf需要在 service 文件里显式设置否则句柄数仍是默认值[Service] LimitNOFILE65535 LimitNPROC655653.3 常用内核参数/etc/sysctl.conf改完执行sysctl -p# 文件句柄总量 fs.file-max 1000000 # 半连接队列 / 全连接队列 net.core.somaxconn 32768 net.ipv4.tcp_max_syn_backlog 32768 # TIME_WAIT 复用与回收 net.ipv4.tcp_tw_reuse 1 net.ipv4.tcp_fin_timeout 30 net.ipv4.ip_local_port_range 10000 65000 # 避免使用 swap或降低倾向防止 GC 停顿被放大 vm.swappiness 1四、应用 Tomcat 连接数调优application.ymlserver:tomcat:uri-encoding:UTF-8# 工作线程数CPU 密集不宜过大IO 密集可适当提高max-threads:1000# 最大连接数一般 max-threadsmax-connections:20000# 允许等待的队列长度线程满后进入队列accept-count:1000# 最小空闲线程min-spare-threads:100要点max-connections是瞬时连接上限max-threads是并发处理线程上限两者不要盲目都调大线程过多会加剧上下文切换和内存占用请求处理里如果要访问数据库max-threads必须与数据库连接池上限匹配见第六节否则线程都在等连接反而更慢若前面有 Nginx建议开启长连接复用upstream ... keepalive否则连接建立成本高上线前结合压测确认线程数、连接数、DB 池、GC 四者的平衡点。五、应用层优化前端查询字典改成静态数据字典/枚举等低变化数据下拉框、类型映射改为前端静态常量或本地缓存减少无意义的接口调用图片上传添加压缩前端上传前压缩尺寸 质量后端限制单文件大小与类型减少带宽与存储压力必要时接入 OSS/MinIO接口与缓存高频只读接口加 Redis 缓存注意缓存穿透/击穿/雪崩空值缓存、互斥重建、过期时间加随机列表分页限制上限如pageSize ≤ 100禁止一次性全量查询异步化与解耦通知、日志、附件处理等非主链路操作丢到 MQ 异步处理RocketMQ/KafkaRocketMQ 注意消费幂等唯一 ID Redis 判重远程调用Feign/HTTP 必须显式设置连接与读取超时禁止无限等待减少服务间链式调用次数能合并的接口合并静态资源由 Nginx/ CDN 承载开启浏览器缓存避免打到后端。六、数据库连接 / 会话数调优/etc/my.cnfMySQL[mysqld] # 允许的最大并发连接数需与所有应用实例的连接池总和匹配 max_connections 1000 # 等待建立连接的超时秒数默认 10 connect_timeout 10 # 等待关闭连接的不活动超时秒数默认 288008 小时 wait_timeout 1800 interactive_timeout 1800 # 缓存池建议为物理内存的 50%~70% innodb_buffer_pool_size 8G # 慢查询 slow_query_log 1 long_query_time 1 slow_query_log_file /var/log/mysql/slow.log要点容量公式Σ(每个微服务的连接池 maxActive/ maximum-pool-size) ≤ max_connections - 预留。例10 个实例、每实例池 50 → 500 连接max_connections至少留到 800~1000。wait_timeout要大于连接池的maxLifetimeHikariCP或minEvictableIdleTimeMillisDruid避免连接被数据库单方面断开导致 “connection reset”。连接池建议HikariCPmaximum-pool-size一般 10~20 足够不是越大越好Druid 关闭不必要的test-on-borrow降低开销。索引与 SQL上线前做慢查询治理pt-query-digest/explain避免全表扫描与长事务。七、集群部署Nginx Gateway Nacos客户端 → Nginx负载均衡/HTTPS/限流 ↓ Spring Cloud Gateway 集群无状态多实例 ↓ Nacos 注册中心集群 3 节点 ↓ 业务微服务集群多实例滚动发布Gateway 集群由 Nginx 做四层/七层负载upstreamkeepaliveGateway 本身保持无状态微服务集群所有服务注册到 NacosNacos 建议3 节点集群奇数避免脑裂配置中心动态刷新会话无状态登录态用 JWT 或 Redis 共享 session禁止依赖单机内存会话否则多实例登录会互相踢优雅上下线发布时先从 Nacos 摘除实例、等待存量请求处理完再停止应用开启优雅停机server.shutdowngracefulspring.lifecycle.timeout-per-shutdown-phase30s健康检查与熔断配置健康检查路径对下游加超时、重试仅幂等接口、熔断Sentinel/Resilience4j避免雪崩滚动发布Nginx 摘掉一半实例 → 发布 → 健康检查通过 → 再发另一半保证发布期间服务可用。八、上线检查清单与压测验收8.1 上线检查清单JVM-Xms-Xmx、G1、Metaspace 上限、GC 日志滚动、OOM dump 路径可写、时区/编码正确多实例同机部署时各实例堆内存总和未超过物理内存 70%Nginxworker_processes按核数、worker_rlimit_nofile与ulimit -n一致、长连接复用已开系统limits.conf已配且 systemd 服务LimitNOFILE已配、内核参数sysctl -p已生效Tomcatmax-threads / max-connections / accept-count与压测结果匹配数据库max_connections≥ 各实例连接池总和wait_timeout 连接池最大存活时间慢查询日志已开、核心 SQL 已走索引Redis/缓存过期时间、热点 Key、集群部署已完成集群Nacos 3 节点、Gateway/微服务多实例、发布支持摘流与优雅停机可观测应用日志、GC 日志、慢查询、接口 P99 监控与告警已接入8.2 压测验收关注指标层次指标参考接口QPS、P95/P99 延迟、错误率核心接口压到目标峰值的 1.5~2 倍仍稳定JVMYGC 频率、Full GC 次数、GC 停顿、堆使用曲线Full GC 尽量避免老年代使用稳定不持续上涨线程Tomcat 活跃线程、阻塞线程、线程池队列活跃线程未长期顶到max-threads数据库活跃连接数、慢查询数、QPS、锁等待连接数未打满max_connections系统CPU、内存、load、网络、句柄数CPU 70%load 核数无句柄泄漏中间件Nginx 连接数、Redis 命中率、MQ 堆积无持续堆积压测建议先用基准压测找单实例极限再按目标容量计算实例数压测后结合 GC 日志与慢查询日志做一次调参复盘把最终参数固化到启动脚本与部署文档中。