秒拍鄧錚：如何做到面對(duì)二十億視頻播放請(qǐng)求而不慌

作者：于雪 2017-03-29 14:38:05

開發(fā) 架構(gòu) 前端云計(jì)算大數(shù)據(jù) 企業(yè)動(dòng)態(tài)

人們的消費(fèi)習(xí)慣日益碎片化，在微博上播放次數(shù)較多的視頻，絕大多數(shù)在3分鐘以內(nèi)。即使這樣，還有很多人在拖進(jìn)度條，大家就是想盡快看到亮點(diǎn)。作為每日需要處理二十億以上播放請(qǐng)求的大型視頻網(wǎng)站，如何精準(zhǔn)高效的將用戶的每次請(qǐng)求迅速的真正實(shí)現(xiàn)播放，是充滿挑戰(zhàn)的一件事。

【51CTO.com原創(chuàng)稿件】變化總是在不經(jīng)意間發(fā)生，說不上從什么時(shí)候起，我們?cè)谒⑽⒉r(shí)看到的整個(gè)頁(yè)面都幾乎被短視頻占據(jù)。

受益于移動(dòng)互聯(lián)基礎(chǔ)設(shè)備的完善、4G資費(fèi)的下調(diào)及智能終端設(shè)備的普及，用戶不再覺得移動(dòng)端的視頻消費(fèi)是一件奢侈的事兒，而且拍攝發(fā)布分享視頻的成本也前所未有的降低了。據(jù)相關(guān)報(bào)道顯示，目前視頻網(wǎng)站來自移動(dòng)端的播放量已經(jīng)超過70%。人們的消費(fèi)習(xí)慣日益碎片化，在微博上播放次數(shù)較多的視頻，絕大多數(shù)在3分鐘以內(nèi)。即使這樣，還有很多人在拖進(jìn)度條，大家就是想盡快看到亮點(diǎn)。

4月14日，秒拍背后母公司一下科技高級(jí)研發(fā)總監(jiān)鄧錚，將作為WOTA2017 全球架構(gòu)與運(yùn)維技術(shù)峰會(huì)“高可用架構(gòu)專場(chǎng)”的演講嘉賓。在前期的采訪中鄧錚這樣對(duì)記者說：“作為每日需要處理二十億以上播放請(qǐng)求的大型視頻網(wǎng)站，如何精準(zhǔn)高效的將用戶的每次請(qǐng)求迅速的真正實(shí)現(xiàn)播放，是充滿挑戰(zhàn)的一件事。”

[[186999]]

鄧錚一下科技高級(jí)研發(fā)總監(jiān)

鄧錚是一下科技技術(shù)團(tuán)隊(duì)的元老，主要負(fù)責(zé)整體的后端研發(fā)工作。5年半的時(shí)間里，他和公司共同經(jīng)歷了從成立，到秒拍上線、小咖秀的爆發(fā)式增長(zhǎng)、一直播的發(fā)展，再到現(xiàn)在業(yè)務(wù)進(jìn)入了穩(wěn)定增長(zhǎng)期的過程。目前，鄧錚更多的精力是和CTO湯力嘉一起在公司研發(fā)中心進(jìn)行新產(chǎn)品的研發(fā)，并為三個(gè)APP下不同的事業(yè)部提供基礎(chǔ)平臺(tái)的技術(shù)支持。

背靠大樹帶來的壓力

與其他的短視頻應(yīng)用不太一樣，作為微博投資的官方指定平臺(tái)，微博的任何改造都有可能給秒拍帶來突發(fā)性的流量增長(zhǎng)。因此，秒拍從一開始就要去面對(duì)承載微博億級(jí)用戶量級(jí)平臺(tái)的任務(wù)，這需要系統(tǒng)具備隨時(shí)可橫向擴(kuò)展的能力。

鄧錚介紹，秒拍很早就在公有云上部署了自己的基礎(chǔ)平臺(tái)，使系統(tǒng)在應(yīng)對(duì)突發(fā)流量時(shí)具有更好的彈性伸縮能力。所有邏輯請(qǐng)求都會(huì)考慮兩級(jí)的緩存進(jìn)行分流，來確保數(shù)據(jù)庫(kù)的輕負(fù)載。

伴隨著用戶行為習(xí)慣的變化及公司產(chǎn)品的發(fā)展節(jié)奏，秒拍系統(tǒng)大約每一年半會(huì)經(jīng)歷一次整體升級(jí)。在業(yè)務(wù)頻繁迭代的情況下，如何在海量請(qǐng)求下保證足夠高的可用性的同時(shí)，以一個(gè)好的用戶體驗(yàn)和較低的成本的方式來提供服務(wù)，成為秒拍團(tuán)隊(duì)現(xiàn)在努力的方向。

高性能視頻調(diào)度

鄧錚指出，短視頻的播放不同于點(diǎn)播的劇集或是電影，數(shù)據(jù)會(huì)一直保持比較熱的狀態(tài)。很多用戶拍完視頻只想給身邊的人分享，這就需要解決數(shù)據(jù)冷啟動(dòng)和快速分發(fā)的問題。

傳統(tǒng)的視頻播放系統(tǒng)，直接通過CDN地址進(jìn)行播放。CDN是通過DNS進(jìn)行調(diào)度，無法知道節(jié)點(diǎn)的容量，不夠靈敏。例如節(jié)點(diǎn)帶寬已經(jīng)非常滿了，但是請(qǐng)求還是不對(duì)地進(jìn)入。而且在實(shí)際應(yīng)用中，特別是在高峰時(shí)段，網(wǎng)絡(luò)的抖動(dòng)現(xiàn)象也會(huì)比較明顯。

解決問題需要快速反饋，秒拍海量的用戶實(shí)時(shí)播放行為就是快速反饋?zhàn)罴训臄?shù)據(jù)來源。基于種種需求，秒拍研發(fā)了一個(gè)高性能的社頻調(diào)度系統(tǒng)，可以在播放完成時(shí)進(jìn)行上報(bào)統(tǒng)計(jì)，這樣能得知最準(zhǔn)確的客戶播放質(zhì)量，便于實(shí)時(shí)修正調(diào)度策略。“我們采用細(xì)化用戶每次播放請(qǐng)求的上下文，并結(jié)合近期內(nèi)綜合調(diào)度大數(shù)據(jù)，動(dòng)態(tài)的實(shí)現(xiàn)了C段IP級(jí)別的調(diào)度響應(yīng)及區(qū)分，在具體的實(shí)踐中也取得了比較好的效果”，鄧錚這樣解釋，并將實(shí)現(xiàn)方式簡(jiǎn)單歸納為：

通過調(diào)度系統(tǒng)獲取用戶的真實(shí)IP；
對(duì)IP的累積數(shù)據(jù)進(jìn)行動(dòng)態(tài)測(cè)試，來發(fā)現(xiàn)節(jié)點(diǎn)的可用性或?qū)P的訪問性能相比其他節(jié)點(diǎn)有所下降等問，包括IP服務(wù)節(jié)點(diǎn)的遠(yuǎn)近，好壞，節(jié)點(diǎn)的負(fù)荷等。同時(shí)判斷請(qǐng)求是否非法，視頻是否不允許播放；
將數(shù)據(jù)會(huì)記入到新的歷史數(shù)據(jù)，作為后面的加權(quán)處理，來得到一個(gè)相對(duì)精確的調(diào)度結(jié)果；
將每個(gè)點(diǎn)對(duì)應(yīng)的不同CDN廠家具體的性能匯總得到一張性能的大表，快速將表反饋給下一個(gè)用戶，讓用戶避免訪問該節(jié)點(diǎn)，或者調(diào)度到其他節(jié)點(diǎn)。

鄧錚告訴記者，秒拍高性能調(diào)度系統(tǒng)已經(jīng)一年多的時(shí)間，線上運(yùn)行得一直比較穩(wěn)定。現(xiàn)在，基本一個(gè)節(jié)點(diǎn)在出現(xiàn)問題十分鐘左右，就可以具體反應(yīng)到結(jié)果。用戶投訴率在這個(gè)系統(tǒng)上線后呈直線下降。

采訪最后鄧錚表示，秒拍在構(gòu)建這套精準(zhǔn)視頻調(diào)度系統(tǒng)過程中積累的更多豐富經(jīng)驗(yàn)，他將帶到WOTA2017全球架構(gòu)與運(yùn)維技術(shù)峰會(huì)上:“我將圍繞秒拍在海量播放請(qǐng)求下視頻調(diào)度中遇到的問題、現(xiàn)存解決方案的不足及我們采用的核心算法，在WOTA2017高可用架構(gòu)專場(chǎng)展開分享，希望和大家一起交流。”

我們期待鄧錚老師在現(xiàn)場(chǎng)的精彩演講。