把虚拟线程开关打开以后,订单接口一到高峰还是会超时。先找耗时最长的那一段。同样一个“慢”,可能是订单逻辑仍跑在原来的执行器里,可能是 JDBC 等不到连接,也可能是虚拟线程阻塞时占住了载体线程。要改的地方各不相同。
下面以 Spring Boot 3.5、内嵌 Tomcat、HotSpot JDK 21 为例,最后单独说明 JDK 24 的变化。先挑一条能在测试环境复现的慢请求,记住接口、实例和出现慢请求的时间段。
先在慢的那一段看线程
Spring Boot 在 Java 21 及以上可以通过下面的配置开启虚拟线程。使用默认的内嵌 Tomcat 自动配置时,Boot 给 Tomcat 的协议处理器设置虚拟线程执行器。应用自己声明的执行器、显式传给 CompletableFuture 的线程池等,仍要沿实际调用路径确认。Spring Boot 虚拟线程配置 · Tomcat 自动配置源码
spring:
threads:
virtual:
enabled: true
在测试环境给同一请求加两处采样。一处放在 Controller 入口,一处放在实际慢的任务里,比如 @Async 方法内部。下面假设当前类已经有 SLF4J 的 log,用项目现有的请求 ID 把记录对上。查完可以撤掉临时日志。
Thread current = Thread.currentThread();
log.info("threadId={}, virtual={}", current.threadId(), current.isVirtual());
如果入口是 true,慢任务里是 false,就去看任务交给了哪个执行器。比如 @Async("orderExecutor") 仍然选择原先的业务线程池,就去检查这个池的排队时间。两个位置都是 false 时,先核对进程的 JDK 版本和实际生效的 profile 与开关,也检查 Tomcat 是否由 Boot 内嵌启动。两个位置都是 true 时,接着看请求在等哪个资源。线程名可以辅助定位,线程类型以 isVirtual() 为准。Spring Boot 任务执行配置 · Java 线程池排队怎么查
在同一时间窗里对上连接池和下游耗时
虚拟线程可以让很多阻塞式请求同时在途。数据库连接数、下游能接收的并发,以及 CPU 的处理能力都有各自的上限。单次 SQL 或外部接口本来就慢,切换线程类型后仍要等它返回。JDK 21 虚拟线程说明
- 数据库连接池在排队。 已有 HikariCP 和 Micrometer 指标时,按应用实例和连接池对齐
hikaricp.connections.pending、hikaricp.connections.active和hikaricp.connections.max。如果活动连接持续贴近上限、等待数又在涨,先区分借连接耗时和 SQL 耗时。借到连接后的慢事务可能让后续请求堆在池外。Spring Boot 数据源指标 · HikariCP 指标源码 · 连接池耗尽怎么查 - 远程调用在等回复。 看慢请求对应的出站调用延迟和超时,核对下游是否有排队、限流或连接等待。如果下游已经满载,先在调用处限制在途请求,并给等待设置上限,按业务约定处理超时。
- CPU 已经忙满。 如果 CPU 使用率与请求并发一起涨,而慢点是编码、序列化或计算,先采样看热点,再决定怎么处理这段计算。继续增加在途请求可能只会拉长排队。
怀疑线程固定时,用 JFR 看调用栈
虚拟线程运行时由载体线程承载。很多阻塞操作会暂时交还载体,让其他虚拟线程继续运行。JDK 21 上,如果虚拟线程在 synchronized 块或方法里执行会阻塞的操作,可能固定在载体线程上,直到阻塞结束。采样时看的是固定持续了多久、是否反复出现,以及栈上的阻塞点。JDK 21 固定与诊断
下面在 Linux 测试实例上做一次短录制。用目标 JVM 对应的 JDK 工具、能附加到该进程的服务账号和正确的 PID。容器里需确认命令能看到目标进程,录制路径要在目标 JVM 可写的目录中,并选一个新的文件名。把示例 PID 和路径换成实际值。
jcmd 12345 VM.version
jcmd 12345 JFR.start name=vt-latency settings=default duration=60s filename=/var/tmp/vt-latency.jfr
# 在这段时间重现慢请求,录制结束且文件生成以后再读
jfr print --events jdk.VirtualThreadPinned --stack-depth 24 /var/tmp/vt-latency.jfr
JDK 21 默认配置会记录达到约 20 毫秒阈值的固定事件。先看事件时间、持续时间和栈上靠近业务代码的几帧。假设栈反复指到同一个锁内的远程调用,优先评估能否把 I/O 移出临界区,并保留原来的并发约束。空结果只说明这份录制里没有看到符合配置的事件。再核对录制是否覆盖故障窗口、事件是否启用,以及连接池、下游或锁竞争的其他证据。OpenJDK 默认 JFR 配置 · jcmd 手册 · jfr 手册
JDK 24 上,锁竞争仍然要看
JDK 24 改进了虚拟线程与对象监视器的配合,普通 synchronized 不再因为持有监视器就固定载体线程。涉及本地方法或外部函数的路径仍可能固定。就算没有固定,一个全局锁包住慢调用,也会让同时使用同一把锁的请求串行等待。JDK 24 虚拟线程调度说明
复测时用相同并发、连接池大小和下游条件,比较每秒成功请求数、P95 延迟、超时数,以及刚才定位的指标。原来等连接,就看对应池的等待是否回落。原来反复出现固定,就对照同一调用栈在复测窗口内的事件和延迟。两次结果逐段对上,才能判断改动解决了哪一处等待。
Spring Boot 开了虚拟线程,接口还是慢怎么查
https://java.li/archives/spring-boot-virtual-threads-slow
评论