如何用消息系統避免分布式事務

前陣子從支付寶轉賬1萬塊錢到余額寶，這是日常生活的一件普通小事，但作為互聯網研發人員的職業病，我就思考支付寶扣除1萬之后，如果系統掛掉怎么辦，這時余額寶賬戶并沒有增加1萬，數據就會出現不一致狀況了。

上述場景在各個類型的系統中都能找到相似影子，比如在電商系統中，當有用戶下單后，除了在訂單表插入一條記錄外，對應商品表的這個商品數量必須減1吧，怎么保證？！在搜索廣告系統中，當用戶點擊某廣告后，除了在點擊事件表中增加一條記錄外，還得去商家賬戶表中找到這個商家并扣除廣告費吧，怎么保證？！等等，相信大家或多或多少都能碰到相似情景。

本質上問題可以抽象為：當一個表數據更新后，怎么保證另一個表的數據也必須要更新成功。

1 本地事務

還是以支付寶轉賬余額寶為例，假設有

• 支付寶賬戶表：A（id，userId，amount）

• 余額寶賬戶表：B（id，userId，amount）

• 用戶的userId=1；

從支付寶轉賬1萬塊錢到余額寶的動作分為兩步：

• 1）支付寶表扣除1萬：update A set amount=amount-10000 where userId=1;

• 2）余額寶表增加1萬：update B set amount=amount+10000 where userId=1;

如何確保支付寶余額寶收支平衡呢？

有人說這個很簡單嘛，可以用事務解決。下載

非常正確，如果你使用spring的話一個注解就能搞定上述事務功能。

Java

如果系統規模較小，數據表都在一個數據庫實例上，上述本地事務方式可以很好地運行，但是如果系統規模較大，比如支付寶賬戶表和余額寶賬戶表顯然不會在同一個數據庫實例上，他們往往分布在不同的物理節點上，這時本地事務已經失去用武之地。

既然本地事務失效，分布式事務自然就登上舞臺。

2 分布式事務—兩階段提交協議下載

兩階段提交協議（Two-phase Commit，2PC）經常被用來實現分布式事務。一般分為協調器C和若干事務執行者Si兩種角色，這里的事務執行者就是具體的數據庫，協調器可以和事務執行器在一臺機器上。

1） 我們的應用程序（client）發起一個開始請求到TC；

2） TC先將<prepare>消息寫到本地日志，之后向所有的Si發起<prepare>消息。以支付寶轉賬到余額寶為例，TC給A的prepare消息是通知支付寶數據庫相應賬目扣款1萬，TC給B的prepare消息是通知余額寶數據庫相應賬目增加1w。為什么在執行任務前需要先寫本地日志，主要是為了故障后恢復用，本地日志起到現實生活中憑證 的效果，如果沒有本地日志（憑證），出問題容易死無對證；

3） Si收到<prepare>消息后，執行具體本機事務，但不會進行commit，如果成功返回<yes>，不成功返回<no>。同理，返回前都應把要返回的消息寫到日志里，當作憑證。

4） TC收集所有執行器返回的消息，如果所有執行器都返回yes，那么給所有執行器發生送commit消息，執行器收到commit后執行本地事務的commit操作；如果有任一個執行器返回no，那么給所有執行器發送abort消息，執行器收到abort消息后執行事務abort操作。下載

注：TC或Si把發送或接收到的消息先寫到日志里，主要是為了故障后恢復用。如某一Si從故障中恢復后，先檢查本機的日志，如果已收到<commit >，則提交，如果<abort >則回滾。如果是<yes>，則再向TC詢問一下，確定下一步。如果什么都沒有，則很可能在<prepare>階段Si就崩潰了，因此需要回滾。

不過但凡使用過的上述兩階段提交的同學都可以發現性能實在是太差，根本不適合高并發的系統。為什么？

• 1）兩階段提交涉及多次節點間的網絡通信，通信時間太長！

• 2）事務時間相對于變長了，鎖定的資源的時間也變長了，造成資源等待時間也增加好多！

正是由于分布式事務存在很嚴重的性能問題，大部分高并發服務都在避免使用，往往通過其他途徑來解決數據一致性問題。

3 使用消息隊列來避免分布式事務下載

如果仔細觀察生活的話，生活的很多場景已經給了我們提示。

比如在北京很有名的姚記炒肝點了炒肝并付了錢后，他們并不會直接把你點的炒肝給你，而是給你一張小票，然后讓你拿著小票到出貨區排隊去取。為什么他們要將付錢和取貨兩個動作分開呢？原因很多，其中一個很重要的原因是為了使他們接待能力增強（并發量更高）。

還是回到我們的問題，只要這張小票在，你最終是能拿到炒肝的。同理轉賬服務也是如此，當支付寶賬戶扣除1萬后，我們只要生成一個憑證（消息）即可，這個憑證（消息）上寫著“讓余額寶賬戶增加 1萬”，只要這個憑證（消息）能可靠保存，我們最終是可以拿著這個憑證（消息）讓余額寶賬戶增加1萬的，即我們能依靠這個憑證（消息）完成最終一致性。

3.1 如何可靠保存憑證（消息）

有兩種方法：下載

3.1.1 業務與消息耦合的方式

支付寶在完成扣款的同時，同時記錄消息數據，這個消息數據與業務數據保存在同一數據庫實例里（消息記錄表表名為message）。

上述事務能保證只要支付寶賬戶里被扣了錢，消息一定能保存下來。

當上述事務提交成功后，我們通過實時消息服務將此消息通知余額寶，余額寶處理成功后發送回復成功消息，支付寶收到回復后刪除該條消息數據。

3.1.2 業務與消息解耦方式下載

上述保存消息的方式使得消息數據和業務數據緊耦合在一起，從架構上看不夠優雅，而且容易誘發其他問題。為了解耦，可以采用以下方式。

1）支付寶在扣款事務提交之前，向實時消息服務請求發送消息，實時消息服務只記錄消息數據，而不真正發送，只有消息發送成功后才會提交事務；

2）當支付寶扣款事務被提交成功后，向實時消息服務確認發送。只有在得到確認發送指令后，實時消息服務才真正發送該消息；

3）當支付寶扣款事務提交失敗回滾后，向實時消息服務取消發送。在得到取消發送指令后，該消息將不會被發送；

4）對于那些未確認的消息或者取消的消息，需要有一個消息狀態確認系統定時去支付寶系統查詢這個消息的狀態并進行更新。為什么需要這一步驟，舉個例子：假設在第2步支付寶扣款事務被成功提交后，系統掛了，此時消息狀態并未被更新為“確認發送”，從而導致消息不能被發送。

優點：消息數據獨立存儲，降低業務系統與消息系統間的耦合；

缺點：一次消息發送需要兩次請求；業務處理服務需要實現消息狀態回查接口。

3.2 如何解決消息重復投遞的問題

還有一個很嚴重的問題就是消息重復投遞，以我們支付寶轉賬到余額寶為例，如果相同的消息被重復投遞兩次，那么我們余額寶賬戶將會增加2萬而不是1萬了。

為什么相同的消息會被重復投遞？比如余額寶處理完消息msg后，發送了處理成功的消息給支付寶，正常情況下支付寶應該要刪除消息msg，但如果支付寶這時候悲劇的掛了，重啟后一看消息msg還在，就會繼續發送消息msg。

解決方法很簡單，在余額寶這邊增加消息應用狀態表（message_apply），通俗來說就是個賬本，用于記錄消息的消費情況，每次來一個消息，在真正執行之前，先去消息應用狀態表中查詢一遍，如果找到說明是重復消息，丟棄即可，如果沒找到才執行，同時插入到消息應用狀態表（同一事務）。