負(fù)載均衡（一）——初始負(fù)載均衡

作者：Hollis 2017-07-03 08:08:25

最近在看的幾本書中都提到負(fù)載均衡技術(shù)，發(fā)現(xiàn)自己對(duì)這部分內(nèi)容了解的并不是很多，所以把這塊知識(shí)補(bǔ)充一下。與君共勉~!

什么是負(fù)載均衡(Load balancing)

在網(wǎng)站創(chuàng)立初期，我們一般都使用單臺(tái)機(jī)器對(duì)臺(tái)提供集中式服務(wù)，但是隨著業(yè)務(wù)量越來(lái)越大，無(wú)論是性能上還是穩(wěn)定性上都有了更大的挑戰(zhàn)。這時(shí)候我們就會(huì)想到通過(guò)擴(kuò)容的方式來(lái)提供更好的服務(wù)。我們一般會(huì)把多臺(tái)機(jī)器組成一個(gè)集群對(duì)外提供服務(wù)。然而，我們的網(wǎng)站對(duì)外提供的訪問(wèn)入口都是一個(gè)的，比如www.taobao.com。那么當(dāng)用戶在瀏覽器輸入www.taobao.com的時(shí)候如何將用戶的請(qǐng)求分發(fā)到集群中不同的機(jī)器上呢，這就是負(fù)載均衡在做的事情。

負(fù)載均衡分類

現(xiàn)在我們知道，負(fù)載均衡就是一種計(jì)算機(jī)網(wǎng)絡(luò)技術(shù)，用來(lái)在多個(gè)計(jì)算機(jī)(計(jì)算機(jī)集群)、網(wǎng)絡(luò)連接、CPU、磁碟驅(qū)動(dòng)器或其他資源中分配負(fù)載，以達(dá)到***化資源使用、***化吞吐率、最小化響應(yīng)時(shí)間、同時(shí)避免過(guò)載的目的。那么，這種計(jì)算機(jī)技術(shù)的實(shí)現(xiàn)方式有多種。大致可以分為以下幾種，其中最常用的是四層和七層負(fù)載均衡：

二層負(fù)載均衡

負(fù)載均衡服務(wù)器對(duì)外依然提供一個(gè)VIP(虛IP)，集群中不同的機(jī)器采用相同IP地址，但是機(jī)器的MAC地址不一樣。當(dāng)負(fù)載均衡服務(wù)器接受到請(qǐng)求之后，通過(guò)改寫報(bào)文的目標(biāo)MAC地址的方式將請(qǐng)求轉(zhuǎn)發(fā)到目標(biāo)機(jī)器實(shí)現(xiàn)負(fù)載均衡。

三層負(fù)載均衡

和二層負(fù)載均衡類似，負(fù)載均衡服務(wù)器對(duì)外依然提供一個(gè)VIP(虛IP)，但是集群中不同的機(jī)器采用不同的IP地址。當(dāng)負(fù)載均衡服務(wù)器接受到請(qǐng)求之后，根據(jù)不同的負(fù)載均衡算法，通過(guò)IP將請(qǐng)求轉(zhuǎn)發(fā)至不同的真實(shí)服務(wù)器。

四層負(fù)載均衡

四層負(fù)載均衡工作在OSI模型的傳輸層，由于在傳輸層，只有TCP/UDP協(xié)議，這兩種協(xié)議中除了包含源IP、目標(biāo)IP以外，還包含源端口號(hào)及目的端口號(hào)。四層負(fù)載均衡服務(wù)器在接受到客戶端請(qǐng)求后，以后通過(guò)修改數(shù)據(jù)包的地址信息(IP+端口號(hào))將流量轉(zhuǎn)發(fā)到應(yīng)用服務(wù)器。

七層負(fù)載均衡

七層負(fù)載均衡工作在OSI模型的應(yīng)用層，應(yīng)用層協(xié)議較多，常用http、radius、dns等。七層負(fù)載就可以基于這些協(xié)議來(lái)負(fù)載。這些應(yīng)用層協(xié)議中會(huì)包含很多有意義的內(nèi)容。比如同一個(gè)Web服務(wù)器的負(fù)載均衡，除了根據(jù)IP加端口進(jìn)行負(fù)載外，還可根據(jù)七層的URL、瀏覽器類別、語(yǔ)言來(lái)決定是否要進(jìn)行負(fù)載均衡。

圖，四層和七層負(fù)載均衡

對(duì)于一般的應(yīng)用來(lái)說(shuō)，有了Nginx就夠了。Nginx可以用于七層負(fù)載均衡。但是對(duì)于一些大的網(wǎng)站，一般會(huì)采用DNS+四層負(fù)載+七層負(fù)載的方式進(jìn)行多層次負(fù)載均衡。

圖，阿里云的SLB

常用負(fù)載均衡工具

Nginx/LVS/HAProxy是目前使用最廣泛的三種負(fù)載均衡軟件。

LVS

LVS(Linux Virtual Server)，也就是Linux虛擬服務(wù)器, 是一個(gè)由章文嵩博士發(fā)起的自由軟件項(xiàng)目。使用LVS技術(shù)要達(dá)到的目標(biāo)是：通過(guò)LVS提供的負(fù)載均衡技術(shù)和Linux操作系統(tǒng)實(shí)現(xiàn)一個(gè)高性能、高可用的服務(wù)器群集，它具有良好可靠性、可擴(kuò)展性和可操作性。從而以低廉的成本實(shí)現(xiàn)***的服務(wù)性能。

LVS主要用來(lái)做四層負(fù)載均衡。

Nginx

Nginx(發(fā)音同engine x)是一個(gè)網(wǎng)頁(yè)服務(wù)器，它能反向代理HTTP, HTTPS, SMTP, POP3, IMAP的協(xié)議鏈接，以及一個(gè)負(fù)載均衡器和一個(gè)HTTP緩存。

Nginx主要用來(lái)做七層負(fù)載均衡。

HAProxy

HAProxy是一個(gè)使用C語(yǔ)言編寫的自由及開放源代碼軟件，其提供高可用性、負(fù)載均衡，以及基于TCP和HTTP的應(yīng)用程序代理。

Haproxy主要用來(lái)做七層負(fù)載均衡。

常見負(fù)載均衡算法

上面介紹負(fù)載均衡技術(shù)的時(shí)候提到過(guò)，負(fù)載均衡服務(wù)器在決定將請(qǐng)求轉(zhuǎn)發(fā)到具體哪臺(tái)真實(shí)服務(wù)器的時(shí)候，是通過(guò)負(fù)載均衡算法來(lái)實(shí)現(xiàn)的。負(fù)載均衡算法可以分為兩類：靜態(tài)負(fù)載均衡算法和動(dòng)態(tài)負(fù)載均衡算法。

靜態(tài)負(fù)載均衡算法包括：輪詢，比率，優(yōu)先權(quán)

動(dòng)態(tài)負(fù)載均衡算法包括: 最少連接數(shù),最快響應(yīng)速度，觀察方法，預(yù)測(cè)法，動(dòng)態(tài)性能分配，動(dòng)態(tài)服務(wù)器補(bǔ)充，服務(wù)質(zhì)量，服務(wù)類型，規(guī)則模式。

輪詢(Round Robin)：順序循環(huán)將請(qǐng)求一次順序循環(huán)地連接每個(gè)服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障，BIG-IP 就把其從順序循環(huán)隊(duì)列中拿出，不參加下一次的輪詢，直到其恢復(fù)正常。
比率(Ratio)：給每個(gè)服務(wù)器分配一個(gè)加權(quán)值為比例，根椐這個(gè)比例，把用戶的請(qǐng)求分配到每個(gè)服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障，BIG-IP 就把其從服務(wù)器隊(duì)列中拿出，不參加下一次的用戶請(qǐng)求的分配, 直到其恢復(fù)正常。
優(yōu)先權(quán)(Priority)：給所有服務(wù)器分組,給每個(gè)組定義優(yōu)先權(quán)，BIG-IP 用戶的請(qǐng)求，分配給優(yōu)先級(jí)***的服務(wù)器組(在同一組內(nèi)，采用輪詢或比率算法，分配用戶的請(qǐng)求);當(dāng)***優(yōu)先級(jí)中所有服務(wù)器出現(xiàn)故障，BIG-IP 才將請(qǐng)求送給次優(yōu)先級(jí)的服務(wù)器組。這種方式，實(shí)際為用戶提供一種熱備份的方式。
最少的連接方式(Least Connection)：傳遞新的連接給那些進(jìn)行最少連接處理的服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障，BIG-IP 就把其從服務(wù)器隊(duì)列中拿出，不參加下一次的用戶請(qǐng)求的分配, 直到其恢復(fù)正常。
最快模式(Fastest)：傳遞連接給那些響應(yīng)最快的服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障，BIG-IP 就把其從服務(wù)器隊(duì)列中拿出，不參加下一次的用戶請(qǐng)求的分配，直到其恢復(fù)正常。
觀察模式(Observed)：連接數(shù)目和響應(yīng)時(shí)間以這兩項(xiàng)的***平衡為依據(jù)為新的請(qǐng)求選擇服務(wù)器。當(dāng)其中某個(gè)服務(wù)器發(fā)生第二到第7 層的故障，BIG-IP就把其從服務(wù)器隊(duì)列中拿出，不參加下一次的用戶請(qǐng)求的分配，直到其恢復(fù)正常。
預(yù)測(cè)模式(Predictive)：BIG-IP利用收集到的服務(wù)器當(dāng)前的性能指標(biāo)，進(jìn)行預(yù)測(cè)分析，選擇一臺(tái)服務(wù)器在下一個(gè)時(shí)間片內(nèi)，其性能將達(dá)到***的服務(wù)器相應(yīng)用戶的請(qǐng)求。(被BIG-IP 進(jìn)行檢測(cè))
動(dòng)態(tài)性能分配(Dynamic Ratio-APM):BIG-IP 收集到的應(yīng)用程序和應(yīng)用服務(wù)器的各項(xiàng)性能參數(shù)，動(dòng)態(tài)調(diào)整流量分配。動(dòng)態(tài)服務(wù)器補(bǔ)充(Dynamic Server Act.):當(dāng)主服務(wù)器群中因故障導(dǎo)致數(shù)量減少時(shí)，動(dòng)態(tài)地將備份服務(wù)器補(bǔ)充至主服務(wù)器群。
服務(wù)質(zhì)量(QoS):按不同的優(yōu)先級(jí)對(duì)數(shù)據(jù)流進(jìn)行分配。
服務(wù)類型(ToS): 按不同的服務(wù)類型(在Type of Field中標(biāo)識(shí))負(fù)載均衡對(duì)數(shù)據(jù)流進(jìn)行分配。
規(guī)則模式：針對(duì)不同的數(shù)據(jù)流設(shè)置導(dǎo)向規(guī)則，用戶可自行。