SpringBoot與Caffeine整合，解決微服務(wù)間高頻調(diào)用的性能瓶頸
作者：Java知識(shí)日歷
在微服務(wù)架構(gòu)中，數(shù)據(jù)的一致性和響應(yīng)時(shí)間是非常重要的。由于每個(gè)微服務(wù)通常獨(dú)立部署和運(yùn)行，頻繁的數(shù)據(jù)庫(kù)查詢會(huì)導(dǎo)致較高的延遲和資源消耗。通過(guò)引入緩存機(jī)制，可以顯著減少數(shù)據(jù)庫(kù)負(fù)載，提高系統(tǒng)的整體性能和響應(yīng)速度。
在微服務(wù)架構(gòu)中，數(shù)據(jù)的一致性和響應(yīng)時(shí)間是非常重要的。由于每個(gè)微服務(wù)通常獨(dú)立部署和運(yùn)行，頻繁的數(shù)據(jù)庫(kù)查詢會(huì)導(dǎo)致較高的延遲和資源消耗。通過(guò)引入緩存機(jī)制，可以顯著減少數(shù)據(jù)庫(kù)負(fù)載，提高系統(tǒng)的整體性能和響應(yīng)速度。
哪些公司在使用Caffeine？
- Google 內(nèi)部使用 Caffeine 作為其內(nèi)部服務(wù)的一部分，特別是在需要高性能緩存的場(chǎng)景中。
- GitHub 在其應(yīng)用程序中使用 Caffeine 來(lái)緩存常用數(shù)據(jù)，提升網(wǎng)站的加載速度和響應(yīng)效率。
- PayPal 使用 Caffeine 來(lái)處理高并發(fā)請(qǐng)求，并通過(guò)緩存減少對(duì)數(shù)據(jù)庫(kù)的依賴，提高系統(tǒng)的整體穩(wěn)定性。
- Uber 在其后端服務(wù)中使用 Caffeine 來(lái)緩存頻繁訪問(wèn)的數(shù)據(jù)，從而減輕數(shù)據(jù)庫(kù)負(fù)載并加快響應(yīng)時(shí)間。
- Twitter 在其微服務(wù)架構(gòu)中使用 Caffeine 來(lái)緩存熱點(diǎn)數(shù)據(jù)，確保實(shí)時(shí)數(shù)據(jù)的快速訪問(wèn)。
- LinkedIn 利用 Caffeine 來(lái)優(yōu)化其推薦系統(tǒng)和其他高流量服務(wù)，以減少延遲并提高用戶體驗(yàn)。
- Netflix 使用 Caffeine 來(lái)提高其微服務(wù)架構(gòu)中的性能，特別是在需要快速數(shù)據(jù)訪問(wèn)的地方。
在微服務(wù)中使用Caffeine的好處
- 減少數(shù)據(jù)庫(kù)負(fù)載:
- 緩存熱點(diǎn)數(shù)據(jù)，減少對(duì)數(shù)據(jù)庫(kù)的直接訪問(wèn)次數(shù)。
- 降低數(shù)據(jù)庫(kù)壓力，提升數(shù)據(jù)庫(kù)性能。
- 提高響應(yīng)速度:
- 將常用的數(shù)據(jù)存儲(chǔ)在內(nèi)存中，提供更快的讀取速度。
- 減少網(wǎng)絡(luò)延遲，提升用戶體驗(yàn)。
- 簡(jiǎn)化系統(tǒng)架構(gòu):
- 不需要依賴外部緩存系統(tǒng)（如Redis或Memcached），減少了系統(tǒng)的復(fù)雜性。
- 輕量級(jí)且易于集成，適合小型到中型規(guī)模的應(yīng)用程序。
- 監(jiān)控和調(diào)優(yōu):
- 內(nèi)置統(tǒng)計(jì)功能，可以實(shí)時(shí)監(jiān)控緩存的命中率、加載時(shí)間和驅(qū)逐情況。
- 根據(jù)監(jiān)控?cái)?shù)據(jù)進(jìn)行調(diào)優(yōu)，優(yōu)化緩存策略和配置。
- 支持多種緩存策略:
- 根據(jù)業(yè)務(wù)需求選擇合適的緩存淘汰策略（如LRU、LFU、W-TinyLFU等）。
- 靈活應(yīng)對(duì)不同的緩存場(chǎng)景。
代碼實(shí)操
<dependency>
<groupId>com.github.ben-manes.caffeine</groupId>
<artifactId>caffeine</artifactId>
</dependency>配置Caffeine緩存管理器
創(chuàng)建一個(gè)配置類來(lái)配置Caffeine緩存管理器：
import com.github.benmanes.caffeine.cache.Caffeine;
import org.springframework.cache.CacheManager;
import org.springframework.cache.annotation.EnableCaching;
import org.springframework.cache.caffeine.CaffeineCacheManager;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.util.concurrent.TimeUnit;
@Configuration
@EnableCaching
publicclass CacheConfig {
@Bean
public CacheManager cacheManager() {
CaffeineCacheManager caffeineCacheManager = new CaffeineCacheManager("data");
caffeineCacheManager.setCaffeine(caffeineCacheBuilder());
return caffeineCacheManager;
}
Caffeine<Object, Object> caffeineCacheBuilder() {
return Caffeine.newBuilder()
.recordStats() // 記錄統(tǒng)計(jì)信息
.expireAfterWrite(60, TimeUnit.MINUTES) // 緩存過(guò)期時(shí)間
.maximumSize(100); // 最大緩存條目數(shù)
}
}創(chuàng)建服務(wù)并啟用緩存
創(chuàng)建一個(gè)服務(wù)類，并在方法上使用@Cacheable注解來(lái)啟用緩存：
import lombok.extern.slf4j.Slf4j;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.cache.annotation.Cacheable;
import org.springframework.stereotype.Service;
@Slf4j
@Service
publicclass DataService {
@Autowired
private DataRepository dataRepository;
@Cacheable(value = "data", key = "#id")
public String getDataById(String id) throws InterruptedException {
log.info("Fetching data for ID: {}", id);
// Simulate a slow service call by sleeping for 2 seconds
Thread.sleep(2000);
return dataRepository.findById(id).orElseThrow(() -> new RuntimeException("Data not found"));
}
}Controller
import lombok.extern.slf4j.Slf4j;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
@Slf4j
@RestController
@RequestMapping("/api/data")
publicclass DataController {
@Autowired
private DataService dataService;
@GetMapping("/{id}")
public String getData(@PathVariable String id) throws InterruptedException {
log.info("Received request for data with ID: {}", id);
return dataService.getDataById(id);
}
}創(chuàng)建數(shù)據(jù)存儲(chǔ)
不想寫(xiě)代碼，我們隨手寫(xiě)一個(gè)簡(jiǎn)單的內(nèi)存數(shù)據(jù)存儲(chǔ)吧，意思意思就行了，因?yàn)樗皇侵攸c(diǎn)！
import org.springframework.stereotype.Repository;
import java.util.HashMap;
import java.util.Map;
import java.util.Optional;
@Repository
publicclass DataRepository {
privatefinal Map<String, String> dataStore = new HashMap<>();
public DataRepository() {
dataStore.put("1", "Data for ID 1");
dataStore.put("2", "Data for ID 2");
dataStore.put("3", "Data for ID 3");
}
public Optional<String> findById(String id) {
return Optional.ofNullable(dataStore.get(id));
}
}啟動(dòng)類
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
@SpringBootApplication
public class Application {
public static void main(String[] args) {
SpringApplication.run(Application.class, args);
}
}測(cè)試
import java.net.URI;
import java.net.http.HttpClient;
import java.net.http.HttpRequest;
import java.net.http.HttpResponse;
import java.time.Duration;
publicclass ApiPerformanceTest {
public static void main(String[] args) {
String apiUrl = "http://localhost:8080/api/data/1";
HttpClient client = HttpClient.newHttpClient();
for (int i = 0; i < 5; i++) {
try {
long startTime = System.currentTimeMillis();
HttpRequest request = HttpRequest.newBuilder()
.uri(new URI(apiUrl))
.timeout(Duration.ofMinutes(1))
.GET()
.build();
HttpResponse<String> response = client.send(request, HttpResponse.BodyHandlers.ofString());
long endTime = System.currentTimeMillis();
long responseTime = endTime - startTime;
System.out.println("Request " + (i + 1) + ": Response Time = " + responseTime + " ms");
System.out.println("Response Body: " + response.body());
} catch (Exception e) {
e.printStackTrace();
}
}
}
}log
Request 1: Response Time = 2005 ms
Response Body: Data for ID 1
Request 2: Response Time = 19 ms
Response Body: Data for ID 1
Request 3: Response Time = 17 ms
Response Body: Data for ID 1
Request 4: Response Time = 16 ms
Response Body: Data for ID 1
Request 5: Response Time = 18 ms
Response Body: Data for ID 1- 第一次請(qǐng)求: 大約需要2秒（2005毫秒），因?yàn)槲覀冊(cè)诜?wù)中模擬了一個(gè)慢速的服務(wù)調(diào)用。
- 后續(xù)請(qǐng)求: 幾乎立即返回（大約10-20毫秒），這是因?yàn)镃affeine緩存生效了。
責(zé)任編輯：武曉燕
來(lái)源：
Java知識(shí)日歷
