實戰案例：如何防止超預期的高并發流量壓垮系統？實戰接口限流防護！代碼已上傳！
作者：冰河
我們使用SpringBoot項目來搭建Http接口限流項目，SpringBoot項目本質上還是一個Maven項目。所以，小伙伴們可以直接創建一個Maven項目，我這里的項目名稱為mykit-ratelimiter-test。接下來，在pom.xml文件中添加如下依賴使項目構建為一個SpringBoot項目。
在互聯網應用中，高并發系統會面臨一個重大的挑戰，那就是大量流高并發訪問，比如：天貓的雙十一、京東618、秒殺、搶購促銷等，這些都是典型的大流量高并發場景。
HTTP接口限流實戰
這里，我們實現Web接口限流，具體方式為：使用自定義注解封裝基于令牌桶限流算法實現接口限流。
不使用注解實現接口限流
搭建項目
這里，我們使用SpringBoot項目來搭建Http接口限流項目，SpringBoot項目本質上還是一個Maven項目。所以，小伙伴們可以直接創建一個Maven項目，我這里的項目名稱為mykit-ratelimiter-test。接下來，在pom.xml文件中添加如下依賴使項目構建為一個SpringBoot項目。
<parent>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-parent</artifactId>
<version>2.7.3.RELEASE</version>
</parent>
<modelVersion>4.0.0</modelVersion>
<groupId>io.mykit.limiter</groupId>
<artifactId>mykit-ratelimiter-test</artifactId>
<version>1.0.0-SNAPSHOT</version>
<packaging>jar</packaging>
<name>mykit-ratelimiter-test</name>
<properties>
<guava.version>28.2-jre</guava.version>
</properties>
<dependencies>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-test</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
<exclusions>
<exclusion>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-tomcat</artifactId>
</exclusion>
<exclusion>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-logging</artifactId>
</exclusion>
</exclusions>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-undertow</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-configuration-processor</artifactId>
<optional>true</optional>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-data-redis</artifactId>
</dependency>
<dependency>
<groupId>org.aspectj</groupId>
<artifactId>aspectjweaver</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-aop</artifactId>
</dependency>
<dependency>
<groupId>com.google.guava</groupId>
<artifactId>guava</artifactId>
<version>${guava.version}</version>
</dependency>
</dependencies>
<build>
<plugins>
<plugin>
<groupId>org.apache.maven.plugins</groupId>
<artifactId>maven-compiler-plugin</artifactId>
<version>3.1</version><!--$NO-MVN-MAN-VER$-->
<configuration>
<source>${java.version}</source>
<target>${java.version}</target>
</configuration>
</plugin>
</plugins>
</build>可以看到，我在項目中除了引用了SpringBoot相關的Jar包外，還引用了guava框架，版本為28.2-jre。
創建核心類
這里，我主要是模擬一個支付接口的限流場景。首先，我們定義一個PayService接口和MessageService接口。PayService接口主要用于模擬后續的支付業務，MessageService接口模擬發送消息。接口的定義分別如下所示。
- PayService
package io.mykit.limiter.service;
import java.math.BigDecimal;
/**
* @author binghe
* @version 1.0.0
* @description 模擬支付
*/
public interface PayService {
int pay(BigDecimal price);
}- MessageService
package io.mykit.limiter.service;
/**
* @author binghe
* @version 1.0.0
* @description 模擬發送消息服務
*/
public interface MessageService {
boolean sendMessage(String message);
}接下來，創建二者的實現類，分別如下。
- MessageServiceImpl
package io.mykit.limiter.service.impl;
import io.mykit.limiter.service.MessageService;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.stereotype.Service;
/**
* @author binghe
* @version 1.0.0
* @description 模擬實現發送消息
*/
@Service
publicclass MessageServiceImpl implements MessageService {
privatefinal Logger logger = LoggerFactory.getLogger(MessageServiceImpl.class);
@Override
public boolean sendMessage(String message) {
logger.info("發送消息成功===>>" + message);
returntrue;
}
}- PayServiceImpl
package io.mykit.limiter.service.impl;
import io.mykit.limiter.service.PayService;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.stereotype.Service;
import java.math.BigDecimal;
/**
* @author binghe
* @version 1.0.0
* @description 模擬支付
*/
@Service
publicclass PayServiceImpl implements PayService {
privatefinal Logger logger = LoggerFactory.getLogger(PayServiceImpl.class);
@Override
public int pay(BigDecimal price) {
logger.info("支付成功===>>" + price);
return1;
}
}由于是模擬支付和發送消息，所以，我在具體實現的方法中打印出了相關的日志，并沒有實現具體的業務邏輯。
接下來，就是創建我們的Controller類PayController，在PayController類的接口pay()方法中使用了限流，每秒鐘向桶中放入2個令牌，并且客戶端從桶中獲取令牌，如果在500毫秒內沒有獲取到令牌的話，我們可以則直接走服務降級處理。
PayController的代碼如下所示。
package io.mykit.limiter.controller;
import com.google.common.util.concurrent.RateLimiter;
import io.mykit.limiter.service.MessageService;
import io.mykit.limiter.service.PayService;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import java.math.BigDecimal;
import java.util.concurrent.TimeUnit;
/**
* @author binghe
* @version 1.0.0
* @description 測試接口限流
*/
@RestController
publicclass PayController {
privatefinal Logger logger = LoggerFactory.getLogger(PayController.class);
/**
* RateLimiter的create()方法中傳入一個參數，表示以固定的速率2r/s，即以每秒2個令牌的速率向桶中放入令牌
*/
private RateLimiter rateLimiter = RateLimiter.create(2);
@Autowired
private MessageService messageService;
@Autowired
private PayService payService;
@RequestMapping("/boot/pay")
public String pay(){
//記錄返回接口
String result = "";
//限流處理，客戶端請求從桶中獲取令牌，如果在500毫秒沒有獲取到令牌，則直接走服務降級處理
boolean tryAcquire = rateLimiter.tryAcquire(500, TimeUnit.MILLISECONDS);
if (!tryAcquire){
result = "請求過多，降級處理";
logger.info(result);
return result;
}
int ret = payService.pay(BigDecimal.valueOf(100.0));
if(ret > 0){
result = "支付成功";
return result;
}
result = "支付失敗，再試一次吧...";
return result;
}
}最后，我們來創建mykit-ratelimiter-test項目的核心啟動類，如下所示。
package io.mykit.limiter;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
/**
* @author binghe
* @version 1.0.0
* @description 項目啟動類
*/
@SpringBootApplication
public class MykitLimiterApplication {
public static void main(String[] args){
SpringApplication.run(MykitLimiterApplication.class, args);
}
}至此，我們不使用注解方式實現限流的Web應用就基本完成了。
運行項目
項目創建完成后，我們來運行項目，運行SpringBoot項目比較簡單，直接運行MykitLimiterApplication類的main()方法即可。
項目運行成功后，我們在瀏覽器地址欄輸入鏈接：http://localhost:8080/boot/pay。頁面會輸出“支付成功”的字樣，說明項目搭建成功了。如下所示。
此時，我只訪問了一次，并沒有觸發限流。接下來，我們不停的刷瀏覽器，此時，瀏覽器會輸出“支付失敗，再試一次吧...”的字樣，如下所示。
在PayController類中還有一個sendMessage()方法，模擬的是發送消息的接口，同樣使用了限流操作，具體代碼如下所示。
@RequestMapping("/boot/send/message")
public String sendMessage(){
//記錄返回接口
String result = "";
//限流處理，客戶端請求從桶中獲取令牌，如果在500毫秒沒有獲取到令牌，則直接走服務降級處理
boolean tryAcquire = rateLimiter.tryAcquire(500, TimeUnit.MILLISECONDS);
if (!tryAcquire){
result = "請求過多，降級處理";
logger.info(result);
return result;
}
boolean flag = messageService.sendMessage("恭喜您成長值+1");
if (flag){
result = "消息發送成功";
return result;
}
result = "消息發送失敗，再試一次吧...";
return result;
}sendMessage()方法的代碼邏輯和運行效果與pay()方法相同，我就不再瀏覽器訪問 http://localhost:8080/boot/send/message 地址的訪問效果了，小伙伴們可以自行驗證。
不使用注解實現限流缺點
通過對項目的編寫，我們可以發現，當在項目中對接口進行限流時，不使用注解進行開發，會導致代碼出現大量冗余，每個方法中幾乎都要寫一段相同的限流邏輯，代碼十分冗余。
如何解決代碼冗余的問題呢？我們可以使用自定義注解進行實現。
使用注解實現接口限流
使用自定義注解，我們可以將一些通用的業務邏輯封裝到注解的切面中，在需要添加注解業務邏輯的方法上加上相應的注解即可。針對我們這個限流的實例來說，可以基于自定義注解實現。
實現自定義注解
實現，我們來創建一個自定義注解，如下所示。
package io.mykit.limiter.annotation;
import java.lang.annotation.*;
/**
* @author binghe
* @version 1.0.0
* @description 實現限流的自定義注解
*/
@Target(value = ElementType.METHOD)
@Retention(RetentionPolicy.RUNTIME)
@Documented
public @interface MyRateLimiter {
//向令牌桶放入令牌的速率
double rate();
//從令牌桶獲取令牌的超時時間
long timeout() default 0;
}自定義注解切面實現
接下來，我們還要實現一個切面類MyRateLimiterAspect，如下所示。
package io.mykit.limiter.aspect;
import com.google.common.util.concurrent.RateLimiter;
import io.mykit.limiter.annotation.MyRateLimiter;
import org.aspectj.lang.ProceedingJoinPoint;
import org.aspectj.lang.annotation.Around;
import org.aspectj.lang.annotation.Aspect;
import org.aspectj.lang.annotation.Pointcut;
import org.aspectj.lang.reflect.MethodSignature;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Component;
import javax.servlet.http.HttpServletResponse;
import java.io.IOException;
import java.io.PrintWriter;
import java.util.concurrent.TimeUnit;
/**
* @author binghe
* @version 1.0.0
* @description 一般限流切面類
*/
@Aspect
@Component
publicclass MyRateLimiterAspect {
private RateLimiter rateLimiter = RateLimiter.create(2);
@Pointcut("execution(public * io.mykit.limiter.controller.*.*(..))")
public void pointcut(){
}
/**
* 核心切面方法
*/
@Around("pointcut()")
public Object process(ProceedingJoinPoint proceedingJoinPoint) throws Throwable{
MethodSignature signature = (MethodSignature) proceedingJoinPoint.getSignature();
//使用反射獲取方法上是否存在@MyRateLimiter注解
MyRateLimiter myRateLimiter = signature.getMethod().getDeclaredAnnotation(MyRateLimiter.class);
if(myRateLimiter == null){
//程序正常執行，執行目標方法
return proceedingJoinPoint.proceed();
}
//獲取注解上的參數
//獲取配置的速率
double rate = myRateLimiter.rate();
//獲取客戶端等待令牌的時間
long timeout = myRateLimiter.timeout();
//設置限流速率
rateLimiter.setRate(rate);
//判斷客戶端獲取令牌是否超時
boolean tryAcquire = rateLimiter.tryAcquire(timeout, TimeUnit.MILLISECONDS);
if(!tryAcquire){
//服務降級
fullback();
returnnull;
}
//獲取到令牌，直接執行
return proceedingJoinPoint.proceed();
}
/**
* 降級處理
*/
private void fullback() {
response.setHeader("Content-type", "text/html;charset=UTF-8");
PrintWriter writer = null;
try {
writer = response.getWriter();
writer.println("出錯了，重試一次試試？");
writer.flush();;
} catch (IOException e) {
e.printStackTrace();
}finally {
if(writer != null){
writer.close();
}
}
}
}接下來，我們改造下PayController類中的sendMessage()方法，修改后的方法片段代碼如下所示。
@MyRateLimiter(rate = 1.0, timeout = 500)
@RequestMapping("/boot/send/message")
public String sendMessage(){
//記錄返回接口
String result = "";
boolean flag = messageService.sendMessage("恭喜您成長值+1");
if (flag){
result = "消息發送成功";
return result;
}
result = "消息發送失敗，再試一次吧...";
return result;
}運行部署項目
部署項目比較簡單，只需要運行MykitLimiterApplication類下的main()方法即可。這里，為了簡單，我們還是從瀏覽器中直接輸入鏈接地址來進行訪問。
效果如下所示。
接下來，我們不斷的刷新瀏覽器。會出現“消息發送失敗，再試一次吧..”的字樣，說明已經觸發限流操作。
基于限流算法實現限流的缺點
上面介紹的限流方式都只能用于單機部署的環境中，如果將應用部署到多臺服務器進行分布式、集群，則上面限流的方式就不適用了，此時，我們需要使用分布式限流。至于在分布式場景下，如何實現限流操作，我們就在下一篇中進行介紹。
責任編輯：武曉燕
來源：
冰河技術
