RocketMQ事務消息如何保證數據的一致性
本文轉載自微信公眾號「菜鳥飛呀飛」，作者劉進坤。轉載本文請聯系菜鳥飛呀飛公眾號。
前言
在面過的幾家大廠中，幾乎每輪的面試官(「沒寫錯，幾乎是每輪面試官」)都問了同樣一個問題：你們的系統是分布式的系統嗎?
答：是。
面試官：那么你們分布式的系統是如何解決分布式事務這個問題的呢?也就是如何保證數據的一致性。
答：我們的系統中通過 RocketMQ 的事務消息來保證數據的最終一致性。
面試官：那你說說它是如何來保證數據的最終一致性的?
答：分兩部分來回答，第一部分先回答事務消息的實現流程，第二部分解釋為什么它能保證數據的最終一致性。
事務消息的實現流程
事務消息
- 首先服務 A 發送一個半事務消息(也稱 half 消息)至 MQ 中。為什么要先發送一個 half 消息呢?這是為了保證服務 A 和 MQ 之間的通信正常，如果無法正常通信，則服務 A 可以直接返回一個異常，也就不用處理后面的邏輯的了。
- 如果 half 消息發送成功，MQ 收到這個 half 消息后，會返回一個 success 響應給服務 A。
- 服務 A 接收到 MQ 返回的 success 響應后，開始處理本地的業務邏輯，并提交本地事務。
- 如果服務 A 本地事務提交成功，則會向 MQ 中發送 commit，表示將 half 消息提交，MQ 就會執行第 5 步操作;如果服務 A 本地事務提交失敗，則直接回滾本地事務，并向 MQ 中發送 rollback，表示將之前的 half 消息進行回滾，MQ 接收到 rollback 消息后，就會將 half 消息刪除。
- 如果 commit，則將 half 消息寫入到磁盤。
- 如果 MQ 長時間沒有接收到 commit 或者 rollback 消息，例如：服務 A 在處理本地業務時宕機了，或者發送的 commit、rollback 因為在弱網環境，數據丟失了。那么 MQ 就會在一定時間后嘗試調用服務 A 提供的一個接口，通過這個接口來判斷 half 消息的狀態。所以服務 A 提供的接口，需要實現的業務邏輯是：通過數據庫中對應數據的狀態來判斷，之前的 half 消息對應的業務是否執行成功。如果 MQ 從這個接口中得知 half 消息執行成功了，那么 MQ 就會將 half 消息持久化到本地磁盤，如果得知沒有執行成功，那么就會將 half 消息刪除。
- 服務 B 從 MQ 中消費到對應的消息。
- 服務 B 處理本地業務邏輯，然后提交本地事務。
如何保證數據的最終一致性
實現流程說完了，可能你現在有各種各樣的疑惑?
Q: half 消息是個啥?
A: 它和我們正常發送的普通消息是一樣的，都是存儲在 MQ 中，唯一不同的是 half 在 MQ 中不會立馬被消費者消費到，除非這個 half 消息被 commit 了。(至于為什么未 commit 的 half 消息無法被消費者讀取到，這是因為在 MQ 內部，對于事務消息而言，在 commit 之前，會先放在一個內部隊列中，只有 commit 了，才會真正將消息放在消費者能讀取到的 topic 隊列中)
Q: 為什么要先發送 half 消息?
A: 前面已經解釋過了，主要是為了保證服務 A 和 MQ 之間是否能正常通信，如果兩者之間都不能正常通信，后面還玩個錘子，直接返回異常就可以了。
Q: 如果 MQ 接收到了 half 消息，但是在返回 success 響應的時候，因為網絡原因，導致服務 A 沒有接收到 success 響應，這個時候是什么現象?
A: 當服務 A 發送 half 消息后，它會等待 MQ 給自己返回 success 響應，如果沒有接收到，那么服務 A 也會直接結束，返回異常，不再執行后續邏輯。不執行后續邏輯，這樣服務 A 也就不會提交 commit 消息給 MQ，MQ 長時間沒接收到 commit 消息，那么它就會主動回調服務 A 的一個接口，服務 A 通過接口，查詢本地數據后，發現這條消息對應的業務并沒有正常執行，那么就告訴 MQ，這個 half 消息不能 commit，需要 rollback，MQ 知道后，就將 half 消息進行刪除。
Q: 如果服務 A 本地事務執行失敗了，怎么辦?
A: 服務 A 本地事務執行失敗后，先對自己本地事務進行回滾，然后再向 MQ 發送 rollback 操作。
Q: 服務 A 本地事務提交成功或失敗后，向 MQ 發送的 commit 或者 rollback 消息，因為網絡問題丟失了，又該怎么處理?
A: 和上一個問題一樣，MQ 長時間沒有接收到 half 消息的 commit 或者 rollback 消息，MQ 會主動回調服務 A 的接口，通過這個接口來判斷自己該對這個 half 消息如何處理。
Q: 前面說的全是事務消息的實現流程，這和事務消息如何保證數據的最終一致性有什么關系呢?
A: 有關系。首先，服務 A 執行本地事務并提交和向 MQ 中發送消息這是兩個寫操作，然后通過 RocketMQ 的事務消息，我們保證了這兩個寫操作要么都執行成功，要么都執行失敗。然后讓其他系統，如服務 B 通過消費 MQ 中的消息，然后再去執行自己本地的事務，這樣到最后，服務 A 和服務 B 這兩個系統的數據狀態是不是達到了一致?這就是最終一致性的含義。
如果要求服務 A 和服務 B 的數據狀態，在服務 A 返回給客戶端之間，這兩者就達到一致，這是強一致性，RocketMQ 是沒法保證強一致性的。
目前通過「可靠消息來保證數據的最終一致性」是很多大廠都采用的方案，基本都是通過 MQ 和補償機制來保證數據的一致性。(所謂的可靠消息，就是消息不丟失，如何保證 MQ 的消息不丟失，下篇文章會寫，這也是面試常考題)
Q: 服務 B 本地事務提交失敗了，怎么辦?
A: 如果服務 B 本地事務提交失敗了，可以進行多次重試，直到成功。如果重試多次后，還是提交失敗，例如此時服務 B 對應的 DB 宕機了，這個時候只要服務 B 不向 MQ 提交本次消息的 offset 即可。如果不提交 offset，那么 MQ 會在一定時間后，繼續將這條消息推送給服務 B，服務 B 就可以繼續執行本地事務并提交了，直到成功。這樣，依舊是保證了服務 A 和服務 B 數據的最終一致性。
代碼實現
使用 RokcetMQ 的事務消息主要涉及到兩個部分：
如何發送半事務消息，這個可以通過「TransactionMQProducer」 類來實現。
- TransactionMQProducer transactionMQProducer = new TransactionMQProducer("producerGroup");
- TransactionSendResult result = transactionMQProducer.sendMessageInTransaction(msg, null);
- // 通過result來判斷half消息是否發送成功
- if(result.getSendStatus() == SendStatus.SEND_OK){
- // 成功
- }else{
- // 失敗
- }
在前面我們提到了服務 A 需要提供一個接口，用來供 MQ 回調服務 A，實際上這個接口就是一個監聽器:「TransactionListener」的方法。這是一個接口，提供了兩個方法。
- public interface TransactionListener {
- // 當half消息發送成功后，我們在這里實現自己的業務邏輯，然后commit或者rollback 給MQ
- LocalTransactionState executeLocalTransaction(final Message msg, final Object arg);
- // 這個方法就是供MQ回調的方法，MQ通過回調該方法來判斷half消息的狀態
- // 可以看到，這個方法的參數是MessageExt，也就是half消息的內容，如果根據MessageExt，我們完全能在服務A中判斷之前的業務是否處理成功
- LocalTransactionState checkLocalTransaction(final MessageExt msg);
- }
實際使用時，我們需要實現該接口，例如：
- public class MyTransactionListener implements TransactionListener {
- @Override
- public LocalTransactionState executeLocalTransaction(Message msg, Object arg) {
- try{
- // 處理業務邏輯
- // ....
- // 業務邏輯處理成功，commit
- return LocalTransactionState.COMMIT_MESSAGE;
- }catch (Exception e){
- }
- // 業務處理失敗,rollback
- return LocalTransactionState.ROLLBACK_MESSAGE;
- }
- @Override
- public LocalTransactionState checkLocalTransaction(MessageExt msg) {
- return null;
- }
- }
另外，在創建 producer 時，指定我們實現實現的監聽器
- TransactionMQProducer transactionMQProducer = new TransactionMQProducer("producerGroup");
- transactionMQProducer.setTransactionListener(new MyTransactionListener());
總結
分布式事務是大廠面試必問題，而目前大部分公司都是采用可靠消息來保證數據的最終一種性，通常會采用 RocketMQ 來實現。如果想去阿里的同學，建議 MQ 這塊，選擇 RocketMQ 多復習一下。
