[[264500]]

 什么是負載均衡?

百度詞條里的解釋是：負載均衡，英文叫Load Balance，意思就是將請求或者數據分攤到多個操作單元上進行執行，共同完成工作任務。

它的目的就通過調度集群，達到***化資源使用，***化吞吐率，最小化響應時間，避免單點過載的問題。

負載均衡分類

負載均衡可以根據網絡協議的層數進行分類，我們這里以ISO模型為準，從下到上分為：

物理層，數據鏈路層，網絡層，傳輸層，會話層，表示層，應用層。

當客戶端發起請求，會經過層層的封裝，發給服務器，服務器收到請求后經過層層的解析，獲取到對應的內容。

 

HTTP協議

二層負載均衡

二層負債均衡是基于數據鏈路層的負債均衡，即讓負債均衡服務器和業務服務器綁定同一個虛擬IP(即VIP)，客戶端直接通過這個VIP進行請求，那么如何區分相同IP下的不同機器呢?沒錯，通過MAC物理地址，每臺機器的MAC物理地址都不一樣，當負載均衡服務器接收到請求之后，通過改寫HTTP報文中以太網首部的MAC地址，按照某種算法將請求轉發到目標機器上，實現負載均衡。

這種方式負載方式雖然控制粒度比較粗，但是優點是負載均衡服務器的壓力會比較小，負載均衡服務器只負責請求的進入，不負責請求的響應(響應是有后端業務服務器直接響應給客戶端)，吞吐量會比較高。

 

兩層負載

三層負載均衡

三層負載均衡是基于網絡層的負載均衡，通俗的說就是按照不同機器不同IP地址進行轉發請求到不同的機器上。

這種方式雖然比二層負載多了一層，但從控制的顆粒度上看，并沒有比二層負載均衡更有優勢，并且，由于請求的進出都要經過負載均衡服務器，會對其造成比較大的壓力，性能也比二層負載均衡要差。

三層負載

四層負載均衡

四層負載均衡是基于傳輸層的負載均衡，傳輸層的代表協議就是TCP/UDP協議，除了包含IP之外，還有區分了端口號，通俗的說就是基于IP+端口號進行請求的轉發。相對于上面兩種，控制力度縮小到了端口，可以針對同一機器上的不用服務進行負載。

這一層以LVS為代表。

無圖

七層負載均衡

七層負載均衡是基于應用層的負載均衡，應用層的代表協議有HTTP，DNS等，可以根據請求的url進行轉發負載，比起四層負載，會更加的靈活，所控制到的粒度也是最細的，使得整個網絡更"智能化"。例如訪問一個網站的用戶流量，可以通過七層的方式，將對圖片類的請求轉發到特定的圖片服務器并可以使用緩存技術;將對文字類的請求可以轉發到特定的文字服務器并可以使用壓縮技術。可以說功能是非常強大的負載。

獨自驕傲

這一層以Nginx為代表。

在普通的應用架構中，使用Nginx完全可以滿足需求，對于一些大型應用，一般會采用DNS+LVS+Nginx的方式進行多層次負債均衡，以上這些說明都是基于軟件層面的負載均衡，在一些超大型的應用中，還會在前面多加一層物理負載均衡，比如知名的F5。

負載均衡算法負載均衡算法分為兩類：

一種是靜態負載均衡，一種是動態負載均衡。

靜態均衡算法：

1、輪詢法

將請求按順序輪流地分配到每個節點上，不關心每個節點實際的連接數和當前的系統負載。

優點：簡單高效，易于水平擴展，每個節點滿足字面意義上的均衡;

缺點：沒有考慮機器的性能問題，根據木桶最短木板理論，集群性能瓶頸更多的會受性能差的服務器影響。

輪詢

2、隨機法

將請求隨機分配到各個節點。由概率統計理論得知，隨著客戶端調用服務端的次數增多，其實際效果越來越接近于平均分配，也就是輪詢的結果。

優缺點和輪詢相似。

隨機

3、源地址哈希法

源地址哈希的思想是根據客戶端的IP地址，通過哈希函數計算得到一個數值，用該數值對服務器節點數進行取模，得到的結果便是要訪問節點序號。采用源地址哈希法進行負載均衡，同一IP地址的客戶端，當后端服務器列表不變時，它每次都會落到到同一臺服務器進行訪問。

優點：相同的IP每次落在同一個節點，可以人為干預客戶端請求方向，例如灰度發布;

缺點：如果某個節點出現故障，會導致這個節點上的客戶端無法使用，無法保證高可用。當某一用戶成為熱點用戶，那么會有巨大的流量涌向這個節點，導致冷熱分布不均衡，無法有效利用起集群的性能。所以當熱點事件出現時，一般會將源地址哈希法切換成輪詢法。

哈希法

4、加權輪詢法

不同的后端服務器可能機器的配置和當前系統的負載并不相同，因此它們的抗壓能力也不相同。給配置高、負載低的機器配置更高的權重，讓其處理更多的請;而配置低、負載高的機器，給其分配較低的權重，降低其系統負載，加權輪詢能很好地處理這一問題，并將請求順序且按照權重分配到后端。

加權輪詢算法要生成一個服務器序列，該序列中包含n個服務器。n是所有服務器的權重之和。在該序列中，每個服務器的出現的次數，等于其權重值。并且，生成的序列中，服務器的分布應該盡可能的均勻。比如序列{a, a, a, a, a, b, c}中，前五個請求都會分配給服務器a，這就是一種不均勻的分配方法，更好的序列應該是：{a, a, b, a, c, a, a}。

優點：可以將不同機器的性能問題納入到考量范圍，集群性能******化;

缺點：生產環境復雜多變，服務器抗壓能力也無法精確估算，靜態算法導致無法實時動態調整節點權重，只能粗糙優化。

 

加權輪詢

5、加權隨機法

與加權輪詢法一樣，加權隨機法也根據后端機器的配置，系統的負載分配不同的權重。不同的是，它是按照權重隨機請求后端服務器，而非順序。

6、鍵值范圍法

根據鍵的范圍進行負債，比如0到10萬的用戶請求走***個節點服務器，10萬到20萬的用戶請求走第二個節點服務器……以此類推。

優點：容易水平擴展，隨著用戶量增加，可以增加節點而不影響舊數據;

缺點：容易負債不均衡，比如新注冊的用戶活躍度高，舊用戶活躍度低，那么壓力就全在新增的服務節點上，舊服務節點性能浪費。而且也容易單點故障，無法滿足高可用。

鍵值范圍法

(注：以上所提到的單點故障，都可以用主從方式來解決，從節點監聽主節點心跳，當發現主節點死亡，從節點切換成主節點頂替上去。這里可以思考一個問題，怎么設計集群主從可以***程度上降低成本)

動態負債均衡算法：

1、最小連接數法

根據每個節點當前的連接情況，動態地選取其中當前積壓連接數最少的一個節點處理當前請求，盡可能地提高后端服務的利用效率，將請求合理地分流到每一臺服務器。俗稱閑的人不能閑著，大家一起動起來。

優點：動態，根據節點狀況實時變化;

缺點：提高了復雜度，每次連接斷開需要進行計數;

實現：將連接數的倒數當權重值。

2、最快響應速度法

根據請求的響應時間，來動態調整每個節點的權重，將響應速度快的服務節點分配更多的請求，響應速度慢的服務節點分配更少的請求，俗稱能者多勞，扶貧救弱。

優點：動態，實時變化，控制的粒度更細，跟靈敏;

缺點：復雜度更高，每次需要計算請求的響應速度;

實現：可以根據響應時間進行打分，計算權重。

3、觀察模式法

觀察者模式是綜合了最小連接數和最快響應度，同時考量這兩個指標數，進行一個權重的分配。