当前位置：首页 > 科技 > 软件

SpringBoot+虚拟线程，接口吞吐量成倍增加，太爽了！

来源：责编：时间：2023-12-18 17:36:17 174观看

导读我们将看到如何在spring-boot中利用loom虚拟线程。我们还将在JMeter的帮助下做一些负载测试，看看虚拟线程和普通线程的响应时间如何。首先，虚拟线程是 Project Loom 的一部分。此外，Loom 不会加速内存计算，例如并行流，这不

我们将看到如何在spring-boot中利用loom虚拟线程。我们还将在JMeter的帮助下做一些负载测试，看看虚拟线程和普通线程的响应时间如何。

首先，虚拟线程是 Project Loom 的一部分。

此外，Loom 不会加速内存计算，例如并行流，这不是 Loom 的目标。

我们正在研究如何使用可用的相同硬件来提高应用程序吞吐量，即充分利用 CPU 的潜力，为此我们花费了大量精力。截至目前，我们能够利用 2% 到 3% 的 CPU。我在这篇博客中详细讨论了这一点：

https://medium.com/@anil.java.story/project-loom-virtual-threads-part-1-b17e327c8ba7

“我认为 Loom 项目将会消灭响应式编程”——Brian Goetz（Java 语言架构师）

让我们快速设置我们的 Spring Boot 项目。

<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">    <modelVersion>4.0.0</modelVersion>    <parent>        <groupId>org.springframework.boot</groupId>        <artifactId>spring-boot-starter-parent</artifactId>        <version>3.1.0</version>        <relativePath/> <!-- lookup parent from repository -->    </parent>    <groupId>org.anil</groupId>    <artifactId>virtualthread</artifactId>    <version>0.0.1-SNAPSHOT</version>    <name>virtualthread</name>    <description>virtualthread</description>    <properties>        <java.version>20</java.version>        <tomcat.version>11.0.0-M4</tomcat.version>    </properties>    <dependencies>        <dependency>            <groupId>org.springframework.boot</groupId>            <artifactId>spring-boot-starter-data-jpa</artifactId>        </dependency>        <!-- https://mvnrepository.com/artifact/org.apache.commons/commons-lang3 -->        <dependency>            <groupId>org.apache.commons</groupId>            <artifactId>commons-lang3</artifactId>            <version>3.12.0</version>        </dependency>        <!-- https://mvnrepository.com/artifact/mysql/mysql-connector-java -->        <dependency>            <groupId>mysql</groupId>            <artifactId>mysql-connector-java</artifactId>            <scope>runtime</scope>            <version>8.0.33</version>        </dependency>        <dependency>            <groupId>org.springframework.boot</groupId>            <artifactId>spring-boot-starter-web</artifactId>        </dependency>        <dependency>            <groupId>org.springframework.boot</groupId>            <artifactId>spring-boot-starter-test</artifactId>            <scope>test</scope>        </dependency>        <dependency>            <groupId>org.projectlombok</groupId>            <artifactId>lombok</artifactId>            <version>1.18.24</version>            <scope>compile</scope>        </dependency>    </dependencies>    <build>        <plugins>            <plugin>                <groupId>org.springframework.boot</groupId>                <artifactId>spring-boot-maven-plugin</artifactId>            </plugin>            <plugin>                <groupId>org.apache.maven.plugins</groupId>                <artifactId>maven-compiler-plugin</artifactId>              <configuration>                  <compilerArgs>                      <arg>--enable-preview</arg>                      </compilerArgs>                  <source>20</source>                  <target>20</target>              </configuration>            </plugin>        </plugins>    </build></project>

由于 Project Loom 处于预览阶段，我们需要启用预览功能。

package org.anil.virtualthread;import lombok.extern.slf4j.Slf4j;import org.springframework.boot.SpringApplication;import org.springframework.boot.autoconfigure.SpringBootApplication;import org.springframework.boot.web.embedded.tomcat.TomcatProtocolHandlerCustomizer;import org.springframework.context.annotation.Bean;import java.util.concurrent.Executors;@SpringBootApplication@Slf4jpublic class VirtualthreadApplication {    public static void main(String[] args) {        SpringApplication.run(VirtualthreadApplication.class, args);    }    @Bean    public TomcatProtocolHandlerCustomizer<?> protocolHandlerVirtualThreadExecutorCustomizer() {        return protocolHandler -> {            log.info("Configuring " + protocolHandler + " to use VirtualThreadPerTaskExecutor");            protocolHandler.setExecutor(Executors.newVirtualThreadPerTaskExecutor());        };    }}

到目前为止，我们需要为 Tomcat 服务器配置虚拟线程设置。将来，这可能会在自动配置本身中得到解决。

package org.anil.virtualthread;import org.apache.commons.lang3.RandomStringUtils;import org.apache.commons.lang3.RandomUtils;import org.springframework.beans.factory.annotation.Autowired;import org.springframework.web.bind.annotation.GetMapping;import org.springframework.web.bind.annotation.PostMapping;import org.springframework.web.bind.annotation.RestController;import java.util.List;@RestControllerpublic class HomeController {    @Autowired    ProductRepository productRepository;    @GetMapping("/thread")    public List<Product> checkThread() throws InterruptedException {        Thread.sleep(1000);        return productRepository.findAll();    }    @PostMapping("/save")    public String saveProduct() throws InterruptedException {        for(int i=0; i< 1000; i++){            Product product = new Product();            product.setProductName(RandomStringUtils.randomAlphanumeric(5));            product.setPrice(RandomUtils.nextLong(10,1000));            product.setPrice(1L);            productRepository.save(product);        }        return "anil";    }}

我们有一个GetMapping返回所有结果，我们的数据库中有 1000 条数据。我们已经让线程休眠 1 秒。让我们看看我们的Product实体和ProductRepository。

package org.anil.virtualthread;import jakarta.persistence.Entity;import jakarta.persistence.GeneratedValue;import jakarta.persistence.GenerationType;import jakarta.persistence.Id;import lombok.Getter;import lombok.Setter;@Entity@Getter@Setterpublic class Product {    @Id    @GeneratedValue(strategy = GenerationType.IDENTITY)    private Long id;    private String productName;    private Long price;}package org.anil.virtualthread;import org.springframework.data.jpa.repository.JpaRepository;public interface ProductRepository extends JpaRepository<Product,Long> {}

让我们看看我们的 application.yaml

spring:  datasource:    driver-class-name: com.mysql.cj.jdbc.Driver    maxIdle: 1    timeBetweenEvictionRunsMillis: 60000    hikari:      connection-timeout: 60000      maximum-pool-size: 10      minimum-idle: 5    url: jdbc:mysql://localhost:3306/todos    testWhileIdle: true    username: root    password: root1234    validationQuery: SELECT 1  flyway:    baseline-version: 0    enabled: true    validate-on-migrate: false  jpa:    database: mysql    generate-ddl: true    hibernate:      ddl-auto: none      format_sql: true    show-sql: true

现在，我们首先通过注释以下行来运行应用程序，这将在普通线程上运行我们的应用程序。

package org.anil.virtualthread;import lombok.extern.slf4j.Slf4j;import org.springframework.boot.SpringApplication;import org.springframework.boot.autoconfigure.SpringBootApplication;import org.springframework.boot.web.embedded.tomcat.TomcatProtocolHandlerCustomizer;import org.springframework.context.annotation.Bean;import java.util.concurrent.Executors;@SpringBootApplication@Slf4jpublic class VirtualthreadApplication {    public static void main(String[] args) {        SpringApplication.run(VirtualthreadApplication.class, args);    }//    @Bean//    public TomcatProtocolHandlerCustomizer<?> protocolHandlerVirtualThreadExecutorCustomizer() {//        return protocolHandler -> {//            log.info("Configuring " + protocolHandler + " to use VirtualThreadPerTaskExecutor");//            protocolHandler.setExecutor(Executors.newVirtualThreadPerTaskExecutor());//        };//    }}

现在让我们设置JMeter。我们将有 1000 个请求，该请求将在 3 秒内增加。并且这样的状态会持续200秒。每 3 秒，将触发 1000 个 GET (“/thread”) 请求。我们还添加了响应时间图侦听器。

现在让我们运行测试并等待 200 秒。

从图中我们可以看到，一旦Tomcat的整个线程池被利用，响应时间从3600毫秒猛增到5200毫秒。从那时起，只有当以前的线程被释放时，它才保持这种状态。

现在让我们在启用虚拟线程功能的情况下运行负载测试。

package org.anil.virtualthread;import lombok.extern.slf4j.Slf4j;import org.springframework.boot.SpringApplication;import org.springframework.boot.autoconfigure.SpringBootApplication;import org.springframework.boot.web.embedded.tomcat.TomcatProtocolHandlerCustomizer;import org.springframework.context.annotation.Bean;import java.util.concurrent.Executors;@SpringBootApplication@Slf4jpublic class VirtualthreadApplication {    public static void main(String[] args) {        SpringApplication.run(VirtualthreadApplication.class, args);    }    @Bean    public TomcatProtocolHandlerCustomizer<?> protocolHandlerVirtualThreadExecutorCustomizer() {        return protocolHandler -> {            log.info("Configuring " + protocolHandler + " to use VirtualThreadPerTaskExecutor");            protocolHandler.setExecutor(Executors.newVirtualThreadPerTaskExecutor());        };    }}

现在让我们运行测试并等待 200 秒。

显然，现在并发 1000 个请求的响应时间几乎略高于 1000 毫秒，有时甚至会达到 1400 毫秒，这比我们使用普通线程时要好得多。

显然，当我们需要充分利用底层 CPU 时，我们应该开始在应用程序中采用虚拟线程，突然间我们可以看到，对于相同的硬件，应用程序的吞吐量增加了很多倍。

这比切换到反应式编程要好得多，反应式编程意味着重写所有代码，这很难先学习，然后编写，甚至更难调试和分析。

简而言之，更多用户可以使用该应用程序并与第一个用户同时获得响应。

本文链接：http://www.28at.com/showinfo-26-48731-0.htmlSpringBoot+虚拟线程，接口吞吐量成倍增加，太爽了！

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： Java操作mongodb如何批量写入数据

下一篇： Python数据可视化：使用pyecharts创建交互式图表

标签：

热门焦点

石头智能洗地机A10 Plus体验：双向自清洁治好了我的懒癌

一、前言和介绍专为家庭请假懒人而生的石头科技在近日又带来了自己的全新旗舰新品，石头智能洗地机A10 Plus。从这个产品名上就不难看出，这次石头推出的并不是常见的扫地机器
天猫精灵Sound Pro体验：智能音箱没有音质？来听听我的

这几年除了手机作为智能生活终端最主要的核心之外，第二个可以成为中心点的产品是什么？——是智能音箱。手机在执行命令的时候有两种操作方式，手和智能语音助手，而智能音箱只
摸鱼心法第一章——和配置文件说拜拜

为了能摸鱼我们团队做了容器化，但是带来的问题是服务配置文件很麻烦，然后大家在群里进行了“亲切友好”的沟通图片图片图片图片对比就对比，简单对比下独立配置中心和k8s作为配
如何使用JavaScript创建一只图像放大镜？

译者 | 布加迪审校 | 重楼如果您曾经浏览过购物网站，可能遇到过图像放大功能。它可以让您放大图像的特定区域，以便浏览。结合这个小小的重要功能可以大大改善您网站的用户体验
Python异步IO编程的进程/线程通信实现

这篇文章再讲3种方式，同时讲4中进程间通信的方式一、 Python 中线程间通信的实现方式共享变量共享变量是多个线程可以共同访问的变量。在Python中，可以使用threading模块中的L
OPPO、vivo、小米等国内厂商Q2在印度智能手机市场份额依旧高达55%

7月20日消息，据外媒报道，研究机构的报告显示，在全球智能手机出货量同比仍在下滑的大背景下，印度这一有潜力的市场也未能幸免，出货量同比也有下滑，多家厂
小米MIX Fold 3配置细节曝光：搭载领先版骁龙8 Gen2+罕见5倍长焦

这段时间以来，包括三星、一加、荣耀等等有不少品牌旗下的最新折叠屏旗舰都得到了不少爆料，而小米新一代折叠屏旗舰——小米MIX Fold 3此前也屡屡被传
联想YOGA 16s 2022笔记本将要推出，屏幕支持触控功能

联想此前宣布，将于11月2日19:30召开联想秋季轻薄新品发布会，推出联想 YOGA 16s 2022 笔记本等新品。官方称，YOGA 16s 2022 笔记本将搭载 16 英寸屏幕，并且是一
Windows 11发布，微软一改往常对老机型开放的态度

距离 Windows 11 发布已经过去一周，在过去一周里，很多数码爱好者围绕其对 Android 应用的支持、对老机型的升级问题展开了激烈讨论。与以往不同的是，在这次大