群消息這么復(fù)雜，怎么能做到不丟不重？

作者：58沈劍 2016-11-10 21:00:49

由于“消息風(fēng)暴擴(kuò)散系數(shù)”的存在（概念詳見《QQ狀態(tài)同步究竟是推還是拉？》），群消息的復(fù)雜度要遠(yuǎn)高于單對(duì)單消息。群消息的實(shí)時(shí)性，可達(dá)性，離線消息是今天將要討論的核心話題。

[[175957]]

【需求緣起】

之前的文章更多的聊了單對(duì)單的消息投遞：

《微信為什么不丟消息?》

《http如何像tcp一樣實(shí)時(shí)的收消息?》

群聊是多人社交的基本訴求，不管是QQ群，還是微信群，一個(gè)群友在群內(nèi)發(fā)了一條消息：

(1)在線的群友能***時(shí)間收到消息

(2)離線的群友能在登陸后收到消息

由于“消息風(fēng)暴擴(kuò)散系數(shù)”的存在(概念詳見《QQ狀態(tài)同步究竟是推還是拉?》)，群消息的復(fù)雜度要遠(yuǎn)高于單對(duì)單消息。群消息的實(shí)時(shí)性，可達(dá)性，離線消息是今天將要討論的核心話題。

【常見的群消息流程】

開始講群消息投遞流程之前，先介紹兩個(gè)群業(yè)務(wù)的核心數(shù)據(jù)結(jié)構(gòu)：

群成員表：用來描述一個(gè)群里有多少成員

t_group_users(group_id, user_id)

群離線消息表：用來描述一個(gè)群成員的離線消息

t_offine_msgs(user_id, group_id, sender_id,time, msg_id, msg_detail)

業(yè)務(wù)場(chǎng)景舉例：

(1)一個(gè)群中有x,A,B,C,D共5個(gè)成員，成員x發(fā)了一個(gè)消息

(2)成員A與B在線，期望實(shí)時(shí)收到消息

(3)成員C與D離線，期望未來拉取到離線消息

系統(tǒng)架構(gòu)簡(jiǎn)介：

(1)客戶端：x,A,B,C,D共5個(gè)客戶端用戶

(2)服務(wù)端

(2.1)所有模塊與服務(wù)抽象為server

(2.2)所有用戶在線狀態(tài)抽象存儲(chǔ)在高可用cache里

(2.3)所有數(shù)據(jù)信息，例如群成員、群離線消息抽象存儲(chǔ)在db里

典型群消息投遞流程，如圖步驟1-4所述：

步驟1：群消息發(fā)送者x向server發(fā)出群消息

步驟2：server去db中查詢?nèi)褐杏卸嗌儆脩?x,A,B,C,D)

步驟3：server去cache中查詢這些用戶的在線狀態(tài)

步驟4：對(duì)于群中在線的用戶A與B，群消息server進(jìn)行實(shí)時(shí)推送

步驟5：對(duì)于群中離線的用戶C與D，群消息server進(jìn)行離線存儲(chǔ)

典型的群離線消息拉取流程，如圖步驟1-3所述：

步驟1：離線消息拉取者C向server拉取群離線消息

步驟2：server從db中拉取離線消息并返回群用戶C

步驟3：server從db中刪除群用戶C的群離線消息

存在的問題

上述流程是最容易想，也最容易理解的，存在的問題也最顯而易見：對(duì)于同一份群消息的內(nèi)容，多個(gè)離線用戶存儲(chǔ)了很多份。假設(shè)群中有200個(gè)用戶離線，離線消息則冗余了200份，這極大的增加了數(shù)據(jù)庫(kù)的存儲(chǔ)壓力。

【群消息優(yōu)化1：減少存儲(chǔ)量】

為了減少離線消息的冗余度，增加一個(gè)群消息表，用來存儲(chǔ)所有群消息的內(nèi)容，離線消息表只存儲(chǔ)用戶的群離線消息msg_id，就能大大的降低數(shù)據(jù)庫(kù)的冗余存儲(chǔ)量

群消息表：用來存儲(chǔ)一個(gè)群中所有的消息內(nèi)容

t_group_msgs(group_id, sender_id, time,msg_id, msg_detail)

群離線消息表：優(yōu)化后只存儲(chǔ)msg_id

t_offine_msgs(user_id, group_id, msg_id)

這樣優(yōu)化后，群在線消息發(fā)送就做了一些修改：

步驟3：每次發(fā)送在線群消息之前，要先存儲(chǔ)群消息的內(nèi)容

步驟6：每次存儲(chǔ)離線消息時(shí)，只存儲(chǔ)msg_id，而不用為每個(gè)用戶存儲(chǔ)msg_detail

拉取離線消息時(shí)也做了響應(yīng)的修改：

步驟1：先拉取所有的離線消息msg_id

步驟3：再根據(jù)msg_id拉取msg_detail

步驟5：刪除離線msg_id

存在的問題

如同單對(duì)單消息的發(fā)送一樣：

(1)在線消息的投遞可能出現(xiàn)消息丟失，例如服務(wù)器重啟，路由器丟包，客戶端crash

(2)離線消息的拉取也可能出現(xiàn)消息丟失，原因同上

需要和單對(duì)單消息的可靠投遞一樣，加入應(yīng)用層的ACK，才能保證群消息一定到達(dá)。

【群消息優(yōu)化2：應(yīng)用層ACK】

應(yīng)用層ACK優(yōu)化后，群在線消息發(fā)送又發(fā)生了一些變化：

步驟3：在消息msg_detail存儲(chǔ)到群消息表后，不管用戶是否在線，都先將msg_id存儲(chǔ)到離線消息表里

步驟6：在線的用戶A和B收到群消息后，需要增加一個(gè)應(yīng)用層ACK，來標(biāo)識(shí)消息到達(dá)

步驟7：在線的用戶A和B在應(yīng)用層ACK后，將他們的離線消息msg_id刪除掉

對(duì)應(yīng)到群離線消息的拉取也一樣：

步驟1：先拉取msg_id

步驟3：再拉取msg_detail

步驟5：***應(yīng)用層ACK

步驟6：server收到應(yīng)用層ACK才能刪除離線消息表里的msg_id

存在的問題

(1)如果拉取了消息，卻沒來得及應(yīng)用層ACK，會(huì)收到重復(fù)的消息么?

回答：會(huì)，可以在客戶端去重，對(duì)于重復(fù)的msg_id，對(duì)用戶不展現(xiàn)，從而不影響用戶體驗(yàn)

(2)對(duì)于離線的每一條消息，雖然只存儲(chǔ)了msg_id，但是每個(gè)用戶的每一條離線消息都將在數(shù)據(jù)庫(kù)中保存一條記錄，有沒有辦法減少離線消息的記錄數(shù)呢?

【群消息優(yōu)化3：離線消息表】

離線消息表的優(yōu)化

其實(shí)，對(duì)于一個(gè)群用戶，在ta登出后的離線期間內(nèi)，肯定是所有的群消息都沒有收到的，完全不用對(duì)所有的每一條離線消息存儲(chǔ)一個(gè)離線msg_id，而只需要存儲(chǔ)最近一條拉取到的離線消息的time(或者msg_id)，下次登錄時(shí)拉取在那之后的所有群消息即可，而完全沒有必要存儲(chǔ)每個(gè)人未拉取到的離線消息msg_id

群成員表：用來描述一個(gè)群里有多少成員，以及每個(gè)成員***一條ack的群消息的msg_id(或者time)

t_group_users(group_id, user_id, last_ack_msg_id(last_ack_msg_time))

群消息表：用來存儲(chǔ)一個(gè)群中所有的消息內(nèi)容，不變

t_group_msgs(group_id, sender_id, time,msg_id, msg_detail)

群離線消息表：不再需要了