柚子快報(bào)激活碼778899分享：運(yùn)維 Dubbo 負(fù)載均衡

http://yzkb.51969.com/

Dubbo 負(fù)載均衡

1、什么是負(fù)載均衡？

負(fù)載均衡是在支持應(yīng)用程序的資源池中平均分配網(wǎng)絡(luò)流量的一種方法。

現(xiàn)代應(yīng)用程序必須同時(shí)處理數(shù)百萬用戶，并以快速、可靠的方式將正確的文本、視頻、圖像和其他數(shù)據(jù)返回給每個(gè)用戶。

為了處理如此高的流量，大多數(shù)應(yīng)用程序都有許多資源服務(wù)器，它們之間包含很多重復(fù)數(shù)據(jù)。

負(fù)載均衡器是位于用戶與服務(wù)器組之間的設(shè)備，充當(dāng)不可見的協(xié)調(diào)者，確保均等使用所有資源服務(wù)器。

2、負(fù)載均衡的工作原理是什么？

公司的業(yè)務(wù)總是跑在多臺(tái)服務(wù)器上，這種服務(wù)器安排被稱為服務(wù)器場

用戶對(duì)應(yīng)用程序的請(qǐng)求首先轉(zhuǎn)到負(fù)載均衡器。然后，負(fù)載均衡器會(huì)將每個(gè)請(qǐng)求路由到服務(wù)器場中最適合處理該請(qǐng)求的單個(gè)服務(wù)器。

3、負(fù)載均衡算法

負(fù)載均衡算法是一組規(guī)則，負(fù)載均衡器遵循這些規(guī)則來確定最適合每個(gè)不同客戶端請(qǐng)求的服務(wù)器。負(fù)載均衡算法分為兩個(gè)主要類別。

靜態(tài)負(fù)載均衡

靜態(tài)負(fù)載均衡算法遵循固定規(guī)則，與當(dāng)前服務(wù)器狀態(tài)無關(guān)。以下是靜態(tài)負(fù)載均衡的示例。

循環(huán)法

服務(wù)器的 IP 地址通知客戶端將請(qǐng)求發(fā)往何處。IP 地址是一串很難記住的長數(shù)字。為了簡單起見，域名系統(tǒng)將網(wǎng)站名稱映射到服務(wù)器。當(dāng)您在瀏覽器中輸入 aws.amazon.com 時(shí)，請(qǐng)求將首先發(fā)送到我們的名稱服務(wù)器，該服務(wù)器會(huì)將我們的 IP 地址返回給您的瀏覽器。

在循環(huán)法中，權(quán)威性名稱服務(wù)器（而不是專用硬件或軟件）執(zhí)行負(fù)載均衡。該名稱服務(wù)器輪流或以循環(huán)方式返回服務(wù)器場中不同服務(wù)器的 IP 地址。

加權(quán)循**環(huán)法

在加權(quán)循環(huán)負(fù)載均衡中，您可以根據(jù)服務(wù)器的優(yōu)先級(jí)或容量為每臺(tái)服務(wù)器分配不同權(quán)重。權(quán)重較高的服務(wù)器將從名稱服務(wù)器接收更多的傳入應(yīng)用程序流量。

IP 哈希法

在 IP 哈希法中，負(fù)載均衡器將對(duì)客戶端 IP 地址執(zhí)行名為哈希的數(shù)學(xué)計(jì)算。它將客戶端 IP 地址轉(zhuǎn)換為數(shù)字，然后將該數(shù)字映射到各個(gè)服務(wù)器。

動(dòng)態(tài)負(fù)載均衡

動(dòng)態(tài)負(fù)載均衡算法將在分配流量之前檢查服務(wù)器的當(dāng)前狀態(tài)。以下是動(dòng)態(tài)負(fù)載均衡算法的一些示例。

最少連接法

連接是客戶端與服務(wù)器之間的開放通信渠道。當(dāng)客戶端向服務(wù)器發(fā)送第一個(gè)請(qǐng)求時(shí)，客戶端將進(jìn)行身份驗(yàn)證，并在彼此之間建立活動(dòng)連接。在最少連接法中，負(fù)載均衡器將檢查哪些服務(wù)器的活動(dòng)連接最少，并將流量發(fā)送到這些服務(wù)器。此方法假定所有連接均要求所有服務(wù)器具有相同處理能力。

加權(quán)最小連接法

加權(quán)最小連接算法假定某些服務(wù)器可以處理比其他服務(wù)器更多的活動(dòng)連接。因此，您可以為每臺(tái)服務(wù)器分配不同的權(quán)重或容量，負(fù)載均衡器會(huì)將新的客戶端請(qǐng)求發(fā)送到按容量計(jì)算連接最少的服務(wù)器。

最短響應(yīng)時(shí)間法

響應(yīng)時(shí)間是服務(wù)器處理傳入請(qǐng)求和發(fā)送響應(yīng)所花費(fèi)的總時(shí)間。最短響應(yīng)時(shí)間法會(huì)將服務(wù)器響應(yīng)時(shí)間與活動(dòng)連接相結(jié)合，以確定最佳服務(wù)器。負(fù)載均衡器使用此算法來確保為所有用戶提供更快的服務(wù)。

基于資源的方法

在基于資源的方法中，負(fù)載均衡器通過分析當(dāng)前服務(wù)器負(fù)載來分配流量。稱為代理的專用軟件在每臺(tái)服務(wù)器上運(yùn)行，并計(jì)算服務(wù)器資源的使用情況，如其計(jì)算容量和內(nèi)存。然后，負(fù)載均衡器將先檢查代理是否有足夠的可用資源，然后再將流量分配給該服務(wù)器。

4、Dubbo 內(nèi)置的負(fù)載均衡算法

目前 Dubbo 內(nèi)置了如下負(fù)載均衡算法，可通過調(diào)整配置項(xiàng)啟用。

算法特性備注Weighted Random LoadBalance加權(quán)隨機(jī)默認(rèn)算法，默認(rèn)權(quán)重相同RoundRobin LoadBalance加權(quán)輪詢借鑒于 Nginx 的平滑加權(quán)輪詢算法，默認(rèn)權(quán)重相同，LeastActive LoadBalance最少活躍優(yōu)先 + 加權(quán)隨機(jī)背后是能者多勞的思想Shortest-Response LoadBalance最短響應(yīng)優(yōu)先 + 加權(quán)隨機(jī)更加關(guān)注響應(yīng)速度ConsistentHash LoadBalance一致性哈希確定的入?yún)?，確定的提供者，適用于有狀態(tài)請(qǐng)求P2C LoadBalancePower of Two Choice隨機(jī)選擇兩個(gè)節(jié)點(diǎn)后，繼續(xù)選擇“連接數(shù)”較小的那個(gè)節(jié)點(diǎn)。Adaptive LoadBalance自適應(yīng)負(fù)載均衡在 P2C 算法基礎(chǔ)上，選擇二者中 load 最小的那個(gè)節(jié)點(diǎn)

Dubbo 官方的解釋：

Weighted Random

加權(quán)隨機(jī)，按權(quán)重設(shè)置隨機(jī)概率。在一個(gè)截面上碰撞的概率高，但調(diào)用量越大分布越均勻，而且按概率使用權(quán)重后也比較均勻，有利于動(dòng)態(tài)調(diào)整提供者權(quán)重。缺點(diǎn)：存在慢的提供者累積請(qǐng)求的問題，比如：第二臺(tái)機(jī)器很慢，但沒掛，當(dāng)請(qǐng)求調(diào)到第二臺(tái)時(shí)就卡在那，久而久之，所有請(qǐng)求都卡在調(diào)到第二臺(tái)上。

RoundRobin

加權(quán)輪詢，按公約后的權(quán)重設(shè)置輪詢比率，循環(huán)調(diào)用節(jié)點(diǎn)缺點(diǎn)：同樣存在慢的提供者累積請(qǐng)求的問題。

加權(quán)輪詢過程中，如果某節(jié)點(diǎn)權(quán)重過大，會(huì)存在某段時(shí)間內(nèi)調(diào)用過于集中的問題。 例如 ABC 三節(jié)點(diǎn)有如下權(quán)重：{A: 3, B: 2, C: 1} 那么按照最原始的輪詢算法，調(diào)用過程將變成：A A A B B C

對(duì)此，Dubbo 借鑒 Nginx 的平滑加權(quán)輪詢算法，對(duì)此做了優(yōu)化，調(diào)用過程可抽象成下表:

輪前加和權(quán)重本輪勝者合計(jì)權(quán)重輪后權(quán)重（勝者減去合計(jì)權(quán)重）起始輪\\A(0), B(0), C(0)A(3), B(2), C(1)A6A(-3), B(2), C(1)A(0), B(4), C(2)B6A(0), B(-2), C(2)A(3), B(0), C(3)A6A(-3), B(0), C(3)A(0), B(2), C(4)C6A(0), B(2), C(-2)A(3), B(4), C(-1)B6A(3), B(-2), C(-1)A(6), B(0), C(0)A6A(0), B(0), C(0)

我們發(fā)現(xiàn)經(jīng)過合計(jì)權(quán)重（3+2+1）輪次后，循環(huán)又回到了起點(diǎn)，整個(gè)過程中節(jié)點(diǎn)流量是平滑的，且哪怕在很短的時(shí)間周期內(nèi)，概率都是按期望分布的。

如果用戶有加權(quán)輪詢的需求，可放心使用該算法。

LeastActive

加權(quán)最少活躍調(diào)用優(yōu)先，活躍數(shù)越低，越優(yōu)先調(diào)用，相同活躍數(shù)的進(jìn)行加權(quán)隨機(jī)?；钴S數(shù)指調(diào)用前后計(jì)數(shù)差（針對(duì)特定提供者：請(qǐng)求發(fā)送數(shù) - 響應(yīng)返回?cái)?shù)），表示特定提供者的任務(wù)堆積量，活躍數(shù)越低，代表該提供者處理能力越強(qiáng)。使慢的提供者收到更少請(qǐng)求，因?yàn)樵铰奶峁┱叩恼{(diào)用前后計(jì)數(shù)差會(huì)越大；相對(duì)的，處理能力越強(qiáng)的節(jié)點(diǎn)，處理更多的請(qǐng)求。

ShortestResponse

加權(quán)最短響應(yīng)優(yōu)先，在最近一個(gè)滑動(dòng)窗口中，響應(yīng)時(shí)間越短，越優(yōu)先調(diào)用。相同響應(yīng)時(shí)間的進(jìn)行加權(quán)隨機(jī)。使得響應(yīng)時(shí)間越快的提供者，處理更多的請(qǐng)求。缺點(diǎn)：可能會(huì)造成流量過于集中于高性能節(jié)點(diǎn)的問題。

這里的響應(yīng)時(shí)間 = 某個(gè)提供者在窗口時(shí)間內(nèi)的平均響應(yīng)時(shí)間，窗口時(shí)間默認(rèn)是 30s。

ConsistentHash

一致性 Hash，相同參數(shù)的請(qǐng)求總是發(fā)到同一提供者。當(dāng)某一臺(tái)提供者掛時(shí)，原本發(fā)往該提供者的請(qǐng)求，基于虛擬節(jié)點(diǎn)，平攤到其它提供者，不會(huì)引起劇烈變動(dòng)。算法參見：Consistent Hashing | WIKIPEDIA缺省只對(duì)第一個(gè)參數(shù) Hash，如果要修改，請(qǐng)配置 缺省用 160 份虛擬節(jié)點(diǎn)，如果要修改，請(qǐng)配置

P2C Load Balance

Power of Two Choice 算法簡單但是經(jīng)典，主要思路如下：

對(duì)于每次調(diào)用，從可用的provider列表中做兩次隨機(jī)選擇，選出兩個(gè)節(jié)點(diǎn)providerA和providerB。比較providerA和providerB兩個(gè)節(jié)點(diǎn)，選擇其“當(dāng)前正在處理的連接數(shù)”較小的那個(gè)節(jié)點(diǎn)。

以下是 Dubbo P2C 算法實(shí)現(xiàn)提案

Adaptive Load Balance

Adaptive 即自適應(yīng)負(fù)載均衡，是一種能根據(jù)后端實(shí)例負(fù)載自動(dòng)調(diào)整流量分布的算法實(shí)現(xiàn)，它總是嘗試將請(qǐng)求轉(zhuǎn)發(fā)到負(fù)載最小的節(jié)點(diǎn)。

以下是 Dubbo Adaptive 算法實(shí)現(xiàn)提案

5、配置方式

服務(wù)端服務(wù)級(jí)別

服務(wù)端方法級(jí)別

消費(fèi)端服務(wù)級(jí)別

消費(fèi)端方法級(jí)別

服務(wù)端注解方式 @DubboService(loadbalance="..")

public class UserServiceImpl implements UserService {}

消費(fèi)者端注解方式 @DubboReference(loadbalance="..")

private UserService userService

柚子快報(bào)激活碼778899分享：運(yùn)維 Dubbo 負(fù)載均衡

http://yzkb.51969.com/

相關(guān)文章