您好,登錄后才能下訂單哦!
這篇文章主要為大家展示了“如何使用RocketMQ的事務消息來解決一致性問題”,內容簡而易懂,條理清晰,希望能夠幫助大家解決疑惑,下面讓小編帶領大家一起研究并學習一下“如何使用RocketMQ的事務消息來解決一致性問題”這篇文章吧。
在微服務架構中,我們常常使用異步化的手段來提升系統的 吞吐量 和 解耦 上下游,而構建異步架構最常用的手段就是使用 消息隊列(MQ)
,那異步架構怎樣才能實現數據一致性呢?
可以看到在 業務處理 方面來說 RocketMQ
優于其他對手,而且原生支持 事務消息
PS:業務系統用的是其他 MQ
產品但是又需要 事務消息 怎么辦?學習原理自己開發實現!
例如下圖的場景:生成訂單記錄 -> MQ -> 增加積分
我們是應該先 創建訂單記錄,還是先 發送MQ消息 呢?
先發送MQ消息:這個明顯是不行的,因為如果消息發送成功,而訂單創建失敗的話是沒辦法把消息收回來的
先創建訂單記錄:如果訂單創建成功后MQ消息發送失敗 拋出異常,因為兩個操作都在本地事務中所以訂單數據是可以 回滾 的
上面的 方式二 看似沒問題,但是 網絡是不可靠的!如果 MQ
的響應因為網絡原因沒有收到,所以在面對不確定的結果只好進行回滾;但是 MQ
端又確實是收到了這條消息的,只是回給客戶端的 響應丟失 了!
所以 事務消息
就是用來保證 本地事務 與 MQ消息發送 的原子性!
主要的邏輯分為兩個流程:
事務消息發送及提交:
發送 half消息
MQ服務端
響應消息寫入結果
根據發送結果執行 本地事務
(如果寫入失敗,此時half消息對業務 不可見,本地邏輯不執行)
根據本地事務狀態執行 Commit
或者 Rollback
(Commit操作生成消息索引,消息對消費者 可見)
回查流程:
對于長時間沒有 Commit/Rollback
的事務消息(pending
狀態的消息),從服務端發起一次 回查
Producer
收到回查消息,檢查回查消息對應的 本地事務狀態
根據本地事務狀態,重新 Commit
或者 Rollback
邏輯時序圖
從上面的原理可以發現 事務消息
僅僅只是保證本地事務和MQ消息發送形成整體的 原子性
,而投遞到MQ服務器后,并無法保證消費者一定能消費成功!
如果 消費端消費失敗 后的處理方式,建議是記錄異常信息然后 人工處理,并不建議回滾上游服務的數據(因為兩者是 解耦 的,而且 復雜度 太高)
我們可以利用 MQ
的兩個特性 重試
和 死信隊列
來協助消費端處理:
消費失敗后進行一定次數的 重試
重試后也失敗的話該消息丟進 死信隊列
里
另外起一個線程監聽消費 死信隊列
里的消息,記錄日志并且預警!
因為有 重試
所以消費者需要實現冪等性
下面就用剛剛提到的場景:生成訂單記錄 -> MQ -> 增加積分;來簡單講一下 Spring Cloud
中應該怎么做,詳細代碼請 下載demo 查看。
PS:怎樣安裝部署RocketMQ可以參考《Apache RocketMQ 消息隊列部署與可視化界面安裝》
使用 spring-cloud-stream
框架來訪問 RocketMQ
Spring Cloud Stream 是一個構建消息驅動的框架,通過抽象的定義實現應用與MQ消息隊列之間的解耦,目前支持
RabbitMQ
、kafka
和RocketMQ
消息生產者需要添加 transactional: true
開啟 事務消息
因為開啟了
事務消息
所以這里發送的是half消息
對于消費端是不可見
的
使用 @RocketMQTransactionListener
注解監聽 半消息,并實現 RocketMQLocalTransactionListener
接口,該接口有兩個方法
executeLocalTransaction:用于提交本地事務
checkLocalTransaction:用于事務回查
如果提交事務消息失敗,需等待約1分鐘左右 事務回查 方法才會被調用
注意:因為有 重試 這里如果是真實的業務需要自行實現
冪等性
監聽并消費死信隊列中的消息,用于記錄錯誤日志,并且預警通知運維人員等
demo中提供了3個接口分別測試不同的場景:
事務成功
http://localhost:11002/success
流程如下:
訂單創建 成功
提交事務消息 成功
消費消息增加積分 成功
訂單創建成功但提交事務消息失敗
http://localhost:11002/produceError
流程如下:
訂單創建 成功
提交事務消息 失敗
事務回查(等待1分鐘左右) 成功
提交事務消息 成功
消費消息增加積分 成功
消費消息失敗
http://localhost:11002/consumeError
流程如下:
訂單創建 成功
提交事務消息 成功
消費消息增加積分 失敗
重試消費消息 失敗
進入死信隊列 成功
消費死信隊列的消息 成功
記錄日志并發出預警 成功
以上是“如何使用RocketMQ的事務消息來解決一致性問題”這篇文章的所有內容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內容對大家有所幫助,如果還想學習更多知識,歡迎關注億速云行業資訊頻道!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。