使用查詢分離后從20s優(yōu)化到500ms
冷熱分離固然是一個性價比高的解決方案，但也并不是銀彈，仍然有諸多限制，比如：
- 查詢冷數(shù)據(jù)慢
- 業(yè)務(wù)無法修改冷數(shù)據(jù)
- 冷數(shù)據(jù)多到一定程度系統(tǒng)依舊扛不住
此時如果需要解決以上問題，可以采用另外一種方案：使用 查詢分離 優(yōu)化業(yè)務(wù)主表數(shù)據(jù)大查詢緩慢的問題
什么是查詢分離？
查詢分離從字面上來說非常容易理解，其實就是在寫數(shù)據(jù)時保存一個備份數(shù)據(jù)到另外的存儲系統(tǒng)，在查詢時直接從另外的存儲系統(tǒng)中獲取數(shù)據(jù)，如下圖：
查詢分離
以上只是簡單的架構(gòu)圖，其中有些細節(jié)還是需要深究，如下：
- 什么時候觸發(fā)查詢分離？
- 如何實現(xiàn)查詢分離？
- 查詢數(shù)據(jù)的存儲系統(tǒng)選型？
- 查詢數(shù)據(jù)如何使用？
查詢分離的適用場景？
當(dāng)你在實際業(yè)務(wù)中遇到以下情形，則可以考慮使用查詢分離解決方案。
- 數(shù)據(jù)量大；
- 所有寫數(shù)據(jù)的請求效率尚可；
- 查詢數(shù)據(jù)的請求效率很低；
- 所有的數(shù)據(jù)任何時候都可能被修改；
- 業(yè)務(wù)希望我們優(yōu)化查詢數(shù)據(jù)的功能。
曾做過 SaaS 客服系統(tǒng)的架構(gòu)優(yōu)化，系統(tǒng)里有一個工單查詢功能，工單表中存放了幾千萬條數(shù)據(jù)，且查詢工單表數(shù)據(jù)時需要關(guān)聯(lián)十幾個子表，每個子表的數(shù)據(jù)也是超億條。
面對如此龐大的數(shù)據(jù)量，跟前面的冷熱分離一樣，每次客戶查詢數(shù)據(jù)時幾十秒才能返回結(jié)果，即便我們使用了索引、SQL 等數(shù)據(jù)庫優(yōu)化技巧，效果依然不明顯。
工單表中有些數(shù)據(jù)是幾年前的，客戶說這些數(shù)據(jù)涉及訴訟問題，需要繼續(xù)保持更新，因此我們無法將這些舊數(shù)據(jù)封存到別的地方，也就沒法通過前面的冷熱分離方案來解決。
最終我們采用了查詢分離的解決方案，才得以將這個問題順利解決：將更新的數(shù)據(jù)放在一個數(shù)據(jù)庫里，而查詢的數(shù)據(jù)放在另外一個系統(tǒng)里。因為數(shù)據(jù)的更新都是單表更新，不需要關(guān)聯(lián)也沒有外鍵，所以更新速度立馬得到提升，每次客戶查詢數(shù)據(jù)時，500ms 內(nèi)就可得到返回結(jié)果。
什么時候觸發(fā)查詢分離？
簡單的來說就是什么時候應(yīng)該保存一份數(shù)據(jù)到查詢數(shù)據(jù)庫中，其實也就是數(shù)據(jù)異構(gòu)的過程。
- 同步建立
- 異步建立
- binlog方式
1、 同步建立
修改業(yè)務(wù)代碼：在寫入常規(guī)數(shù)據(jù)后，同步建立查詢數(shù)據(jù)。
圖片
該種方案優(yōu)缺點也非常明顯：
優(yōu)點：查詢數(shù)據(jù)的一致性和實時性得到了保證
缺點：業(yè)務(wù)代碼侵入比較強；減緩寫操作的效率
2、 異步建立
修改業(yè)務(wù)代碼：寫入數(shù)據(jù)后，異步建立查詢數(shù)據(jù)
圖片
該種方案的優(yōu)缺點如下：
優(yōu)點：不影響主流程
缺點：數(shù)據(jù)一致性存在問題
3、 binlog的方式
該種方案也是業(yè)界常用的一種方案，對于代碼是無侵入的，通過監(jiān)聽數(shù)據(jù)庫日志的方式建立查詢數(shù)據(jù)，如下：
圖片
該種方案的優(yōu)缺點如下：
優(yōu)點：不影響主流程；代碼侵入為0
缺點：數(shù)據(jù)一致性存在問題；架構(gòu)相對復(fù)雜
如何實現(xiàn)查詢分離？
對于上述三種方案都算是比較常見的方案，對于第一種同步的方式比較簡單，這里不再介紹；
這篇文章來介紹一下異步的方式，異步的方式有很多，可以放在內(nèi)存中進行操作，但是這有些弊端：
- 數(shù)據(jù)過多，內(nèi)存有限
- 服務(wù)重啟，內(nèi)存數(shù)據(jù)將會丟失
因此最終我們可以選擇MQ的方式，那么此時就涉及到了MQ的技術(shù)選型，這里給兩個建議：
- 如果你的公司已經(jīng)用了MQ，那么直接接著用即可
- 如果公司目前未引入MQ，則需要架構(gòu)組考量選型了，對于MQ的選型可以看我之前文章：聊聊 MQ 技術(shù)選型
當(dāng)然一旦引入了MQ還需要考慮的問題很多，如下：
1、 MQ突然宕機了怎么辦？
MQ宕機意味著查詢數(shù)據(jù)不能繼續(xù)建立了，我們可以在寫入數(shù)據(jù)的同時給該條數(shù)據(jù)加一個標(biāo)志字段（已搬運、未搬運），當(dāng)MQ啟動后，查詢所有未搬運的數(shù)據(jù)，繼續(xù)建立查詢數(shù)據(jù)
這里的方案很多，按照業(yè)務(wù)實際情況考量
2、消息的冪等消費
消息的冪等消費一定要保證，避免數(shù)據(jù)重復(fù)建立，比如：主數(shù)據(jù)的訂單 A 更新后，我們在查詢數(shù)據(jù)中插入了 A，可是此時系統(tǒng)出問題了，系統(tǒng)誤以為查詢數(shù)據(jù)沒更新，又把訂單 A 插入更新了一次。
3、消息的時序性問題
比如某個訂單 A 更新了 1 次數(shù)據(jù)變成 A1，線程甲將 A1 的數(shù)據(jù)搬到查詢數(shù)據(jù)中。不一會兒，后臺訂單 A 又更新了 1 次數(shù)據(jù)變成 A2，線程乙也啟動工作，將 A2 的數(shù)據(jù)搬到查詢數(shù)據(jù)中。
所謂的時序性就是如果線程甲啟動比乙早，但搬運數(shù)據(jù)動作比線程乙還晚完成，就有可能出現(xiàn)查詢數(shù)據(jù)最終變成過期的 A1
查詢數(shù)據(jù)的存儲系統(tǒng)選型？
既然為了解決表數(shù)據(jù)量大查詢緩慢的問題，肯定是不能選用關(guān)系型數(shù)據(jù)庫了，那么還有其他選擇嗎？
內(nèi)存數(shù)據(jù)庫雖然性能非常高，比如Redis，但是不適合海量數(shù)據(jù)，太費錢了
那么這里比較適用的有如下三種：
- MongoDB
- HBase
- Elasticsearch
這里選型還是要根據(jù)自己公司業(yè)務(wù)選擇，如果已經(jīng)有在用的，則直接用即可；另外就是選擇自己熟悉的，比如當(dāng)初我們設(shè)計架構(gòu)方案時，為什么選擇用 Elasticsearch，除 ES 對查詢的擴展性支持外，最關(guān)鍵的一點是我們團隊對 Elasticsearch 很熟悉。
查詢數(shù)據(jù)如何使用？
查詢數(shù)據(jù)很簡單，每個數(shù)據(jù)庫都有對應(yīng)的API，直接調(diào)用查詢
但是，這里有一個問題：數(shù)據(jù)查詢更新完前，查詢數(shù)據(jù)不一致怎么辦？，給出兩種方案：
- 在查詢數(shù)據(jù)更新到最新前，不允許用戶查詢。（我們沒用過這種設(shè)計，但我確實見過市面上有這樣的設(shè)計。）
- 給用戶提示：您目前查詢到的數(shù)據(jù)可能是 1 秒前的數(shù)據(jù)，如果發(fā)現(xiàn)數(shù)據(jù)不準(zhǔn)確，可以嘗試刷新一下，這種提示用戶一般比較容易接受。
總結(jié)
本篇文章介紹了表數(shù)據(jù)量大查詢緩慢的一種解決方案：查詢分離，但這也不是銀彈，仍然是存在一些不足，比如表數(shù)據(jù)量大，寫入緩慢怎么辦？
當(dāng)然查詢分離還有一個重要的問題：歷史數(shù)據(jù)如何遷移？這個處理也是非常簡單，但是也有許多需要考慮的點，
