SpringBoot3虛擬線程 & 反應(yīng)式(WebFlux) & 傳統(tǒng)Tomcat線程池性能對(duì)比
環(huán)境：SpringBoot3.2.1 + JDK21
1. 簡(jiǎn)介
從Spring Boot 3.2 支持虛擬線程。要使用虛擬線程，需要在 Java 21 上運(yùn)行，并將屬性 spring.threads.virtual.enabled 設(shè)置為 true。
啟用虛擬線程后，Tomcat 和 Jetty 將使用虛擬線程處理請(qǐng)求。這意味著處理網(wǎng)絡(luò)請(qǐng)求的應(yīng)用程序代碼（如控制器中的方法）將在虛擬線程上運(yùn)行。
啟用虛擬線程后，applicationTaskExecutor Bean 將成為配置為使用虛擬線程的 SimpleAsyncTaskExecutor。任何使用應(yīng)用程序任務(wù)執(zhí)行器的地方，如調(diào)用 @Async 方法時(shí)的 @EnableAsync、Spring MVC 的異步請(qǐng)求處理和 Spring WebFlux 的阻塞執(zhí)行支持，現(xiàn)在都將使用虛擬線程。
接下來(lái)將分別通過(guò)傳統(tǒng)阻塞Servlet技術(shù)、使用虛擬線程及使用反應(yīng)式技術(shù)WebFlux來(lái)分別對(duì)比它們的性能。
2. 性能對(duì)比
使用虛擬線程 & 傳統(tǒng)Servlet都使用下面的接口：
@RestController
@RequestMapping("/task/default")
public class TaskDefaultController {
@GetMapping("")
public Object index() throws Exception {
System.out.printf("before - %s%n", Thread.currentThread()) ;
TimeUnit.MILLISECONDS.sleep(100) ;
System.out.printf("after - %s%n", Thread.currentThread()) ;
return "task - default..." ;
}
}先測(cè)試下啟用虛擬線程執(zhí)行情況。
配置：
spring:
threads:
virtual:
enabled: true控制臺(tái)輸出：
before - VirtualThread[#42,tomcat-handler-0]/runnable@ForkJoinPool-1-worker-1
after - VirtualThread[#42,tomcat-handler-0]/runnable@ForkJoinPool-1-worker-1使用的是虛擬線程。
2.1 傳統(tǒng)Tomcat線程池方式
配置線程池，如果不配置使用默認(rèn)的最大線程200，整體的吞吐量將在2200作用。
server:
tomcat:
threads:
min-spare: 500
max: 1000初始啟動(dòng)服務(wù)后，內(nèi)存，CPU占用情況；默認(rèn)啟動(dòng)后線程個(gè)數(shù)與上面配置一致。
圖片
使用jmeter測(cè)試，配置如下：
圖片
使用500個(gè)線程，循環(huán)200次，整體做100000次壓測(cè)。后續(xù)的測(cè)試都會(huì)基于該配置進(jìn)行。
圖片
吞吐量為：4696
內(nèi)存，CPU占用情況
圖片
2.2 使用虛擬線程
首先開(kāi)啟虛擬線程
spring:
threads:
virtual:
enabled: true初始啟動(dòng)服務(wù)后，內(nèi)存，CPU占用情況
圖片
jmeter測(cè)試情況如下：
圖片
吞吐量為：4677，與上面的阻塞Servlet基本差不多。但傳統(tǒng)Tomcat線程池方式需要更多的線程才能達(dá)到這一值。
圖片
整個(gè)過(guò)程內(nèi)存使用情況，虛擬線程要比傳統(tǒng)Tomcat線程池方式占用的多。
JDK 的虛擬線程調(diào)度器是一個(gè)工作偷取 ForkJoinPool，以先進(jìn)先出(FIFO)模式運(yùn)行。調(diào)度器的并行性是指可用來(lái)調(diào)度虛擬線程的平臺(tái)線程數(shù)。默認(rèn)情況下，它等于可用處理器的數(shù)量，但可以通過(guò)系統(tǒng)屬性 jdk.virtualThreadScheduler.parallelism 進(jìn)行調(diào)整。ForkJoinPool 與普通池不同，普通池用于并行流的實(shí)現(xiàn)，并以后進(jìn)先出模式運(yùn)行。
調(diào)整數(shù)量再進(jìn)行測(cè)試，設(shè)置JVM參數(shù)
-Djdk.virtualThreadScheduler.parallelism=100 -Djdk.virtualThreadScheduler.maxPoolSize=100設(shè)置100個(gè)平臺(tái)線程來(lái)調(diào)用虛擬線程。
啟動(dòng)服務(wù)后，線程，內(nèi)存使用情況。
圖片
jmeter測(cè)試結(jié)果如下：
圖片
與調(diào)整前沒(méi)什么區(qū)別，反而是增加了應(yīng)用的線程數(shù)量。
2.3 反應(yīng)式WebFlux
引入依賴(lài)
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-webflux</artifactId>
</dependency>基于webflux，我們需要重新編寫(xiě)接口測(cè)試。
@RestController
@RequestMapping("/task/reactor")
public class ReactorController {
@GetMapping("")
public Object index() throws Exception {
// 與上面2種方式不同，reactor方式則需要使用delayElement方式來(lái)模擬耗時(shí)任務(wù)
return Mono.just("task - reactor...").delayElement(Duration.ofMillis(100)) ;
}
}初始啟動(dòng)服務(wù)后，內(nèi)存，CPU占用情況。
圖片
jmeter測(cè)試情況如下：
圖片
吞吐量為：4659，與上面的測(cè)試結(jié)果基本一致。
圖片
內(nèi)存使用情況要比前面幾種方式占用都少。同時(shí)通過(guò)jmeter測(cè)試結(jié)果也能發(fā)現(xiàn)，MAX請(qǐng)求的最大響應(yīng)時(shí)間webflux是最小的，Std.Dev：所有請(qǐng)求響應(yīng)時(shí)間的標(biāo)準(zhǔn)差也是最小的（該值越小，平均值越可靠）。
根據(jù)測(cè)試結(jié)果，虛擬線程與webflux誰(shuí)更勝一籌還不夠清晰，接下來(lái)我們結(jié)合數(shù)據(jù)庫(kù)操作進(jìn)行測(cè)試。
3. 基于數(shù)據(jù)庫(kù)測(cè)試
數(shù)據(jù)庫(kù)數(shù)據(jù)準(zhǔn)備了600w的數(shù)據(jù)。
圖片
3.1 傳統(tǒng)Tomcat線程池方式
基于JPA進(jìn)行數(shù)據(jù)庫(kù)的操作
@Entity
@Table(name = "t_user")
public class User {
@Id
@GeneratedValue(strategy = GenerationType.IDENTITY)
private Integer uid ;
private String name ;
}Repository接口
public interface UserRepository extends JpaRepository<User, Integer> {
}Controller測(cè)試接口
@RestController
@RequestMapping("/users")
public class UserController {
@Resource
private UserRepository ur ;
@GetMapping("/count")
public User count() {
return ur.findById(5800000).orElse(null) ;
}
}測(cè)試結(jié)果：
圖片
3.2 使用虛擬線程
記得開(kāi)啟虛擬線程，測(cè)試結(jié)果如下：
圖片
3.3 反應(yīng)式WebFlux
需要引入如下依賴(lài)
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-data-r2dbc</artifactId>
</dependency>
<dependency>
<groupId>com.github.jasync-sql</groupId>
<artifactId>jasync-r2dbc-mysql</artifactId>
<version>2.1.24</version>
</dependency>配置
spring:
r2dbc:
url: r2dbc:mysql://localhost:3306/batch?serverZnotallow=GMT%2B8&sslMode=DISABLED
username: root
password: xxxooo
pool:
initialSize: 100
maxSize: 100
max-acquire-time: 30s
max-idle-time: 30m實(shí)體定義，這里的注解與jpa不一樣
@Table("t_user")
public class User {
@Id
private Integer uid ;
private String name ;
}Repository定義
public interface UserR2DBCRepository extends ReactiveCrudRepository<User, Integer> {
}Controller接口
@RestController
@RequestMapping("/r2dbc")
public class UserR2DBCController {
@Resource
private UserR2DBCRepository ur ;
@GetMapping("/users")
public Mono<User> count() {
return ur.findById(5800000) ;
}
}測(cè)試結(jié)果
圖片
根據(jù)測(cè)試結(jié)果來(lái)，webflux的整體性能遠(yuǎn)遠(yuǎn)高于虛擬線程及傳統(tǒng)tomcat線程池的方式。
以上是本篇文章全部?jī)?nèi)容，希望對(duì)你有幫助。
完畢！?。?/p>
