精品欧美一区二区三区在线观看 _久久久久国色av免费观看性色_国产精品久久在线观看_亚洲第一综合网站_91精品又粗又猛又爽_小泽玛利亚一区二区免费_91亚洲精品国偷拍自产在线观看 _久久精品视频在线播放_美女精品久久久_欧美日韩国产成人在线

OLAP引擎這么多,為什么蘇寧選擇用Druid?

原創(chuàng)
開(kāi)發(fā) 架構(gòu) 開(kāi)發(fā)工具
隨著公司業(yè)務(wù)增長(zhǎng)迅速,數(shù)據(jù)量越來(lái)越大,數(shù)據(jù)的種類(lèi)也越來(lái)越豐富,分析人員對(duì)數(shù)據(jù)處理的響應(yīng)延時(shí)要求也越來(lái)越高,傳統(tǒng)的大數(shù)據(jù)處理工具已經(jīng)無(wú)法滿足業(yè)務(wù)的需求。

【51CTO.com原創(chuàng)稿件】隨著公司業(yè)務(wù)增長(zhǎng)迅速,數(shù)據(jù)量越來(lái)越大,數(shù)據(jù)的種類(lèi)也越來(lái)越豐富,分析人員對(duì)數(shù)據(jù)處理的響應(yīng)延時(shí)要求也越來(lái)越高,傳統(tǒng)的大數(shù)據(jù)處理工具已經(jīng)無(wú)法滿足業(yè)務(wù)的需求。

特別是 OLAP 分析場(chǎng)景,需要對(duì)各種維度和度量進(jìn)行上卷、下鉆、切片和切塊分析,并要求分析結(jié)果能夠?qū)崟r(shí)返回。

因此我們調(diào)研和對(duì)比了一些目前主流的 OLAP 分析工具,針對(duì)聚合計(jì)算的實(shí)時(shí)分析,我們引入了開(kāi)源分析工具 Druid。

Druid 介紹

說(shuō)起 Druid,大家首先想到的是阿里的 Druid 數(shù)據(jù)庫(kù)連接池,而本文介紹的 Druid 是一個(gè)在大數(shù)據(jù)場(chǎng)景下的解決方案,是需要在復(fù)雜的海量數(shù)據(jù)下進(jìn)行交互式實(shí)時(shí)數(shù)據(jù)展現(xiàn)的 BI/OLAP 工具。

它有三個(gè)特點(diǎn):

  • 處理的數(shù)據(jù)量規(guī)模較大。
  • 可以進(jìn)行數(shù)據(jù)的實(shí)時(shí)查詢(xún)展示。
  • 它的查詢(xún)模式是交互式的,這也說(shuō)明其查詢(xún)并發(fā)能力有限。

目前 Druid 廣泛應(yīng)用在國(guó)內(nèi)外各個(gè)公司,比如阿里,滴滴,知乎,360,eBay,Hulu 等。

Druid 之所以能夠在 OLAP 家族中占據(jù)一席之地,主要依賴(lài)其強(qiáng)大的 MPP 架構(gòu)設(shè)計(jì),關(guān)于它的架構(gòu),這里就不展開(kāi)描述了,感興趣的同學(xué)可以登陸官網(wǎng) druid.io 進(jìn)行了解。

除了 MPP 架構(gòu)外,它還運(yùn)用到了四點(diǎn)重要的技術(shù),分別是:

  • 預(yù)聚合
  • 列式存儲(chǔ)
  • 字典編碼
  • 位圖索引

預(yù)聚合算是 Druid 的一個(gè)非常大的亮點(diǎn),通過(guò)預(yù)聚合可以減少數(shù)據(jù)的存儲(chǔ)以及避免查詢(xún)時(shí)很多不必要的計(jì)算。

由于 OLAP 的分析場(chǎng)景大多只關(guān)心某個(gè)列或者某幾個(gè)列的指標(biāo)計(jì)算,因此數(shù)據(jù)非常適合列式存儲(chǔ)。

在列式存儲(chǔ)的基礎(chǔ)之上,再加上字段編碼,能夠有效的提升數(shù)據(jù)的壓縮率,然后位圖索引讓很多查詢(xún)最終直接轉(zhuǎn)化成計(jì)算機(jī)層面的位計(jì)算,提升查詢(xún)效率。

Druid 既然是 OLAP 工具,那它和其他 OLAP 工具有哪些差異呢?

圖 1:OLAP 工具的對(duì)比

從上圖可以看出,Kylin 和 Druid 整體上相比較其他兩個(gè)還是很有優(yōu)勢(shì)的:

相比較 Kylin,Druid 沒(méi)有模型管理和 cube 管理的能力,Kylin 無(wú)法提供實(shí)時(shí)查詢(xún)。

相比較 ES,Druid 的優(yōu)勢(shì)在于聚合計(jì)算,ES 的優(yōu)勢(shì)在于查明細(xì),在蘇寧,對(duì) Druid 的使用,一般應(yīng)用在需要對(duì)數(shù)據(jù)進(jìn)行實(shí)時(shí)聚合查詢(xún)的場(chǎng)景。

Druid 在蘇寧的應(yīng)用場(chǎng)景

蘇寧很多業(yè)務(wù)場(chǎng)景都使用到了 Druid,本文將列舉兩個(gè)例子,分別是門(mén)店 App 系統(tǒng)以及諸葛系統(tǒng)。

門(mén)店 App 系統(tǒng)

門(mén)店 App 系統(tǒng)是一款集數(shù)據(jù)服務(wù)、銷(xiāo)售開(kāi)單、會(huì)員營(yíng)銷(xiāo)、收發(fā)盤(pán)退、績(jī)效管理、V 購(gòu)用戶(hù)溝通、學(xué)習(xí)中心等于一體的門(mén)店店員移動(dòng)工作平臺(tái),其銷(xiāo)售界面如下所示:

圖 2:銷(xiāo)售界面

圖 3:客流界面

門(mén)店 App 業(yè)務(wù)大致情況如下:

  • 數(shù)據(jù)量:保存近幾年的數(shù)據(jù)。
  • 數(shù)據(jù)接入方式:Kafka 實(shí)時(shí)數(shù)據(jù)接入,隔天離線數(shù)據(jù)覆蓋昨天數(shù)據(jù)。
  • 查詢(xún)方式:實(shí)時(shí)查詢(xún)。
  • 業(yè)務(wù)實(shí)現(xiàn):topN 實(shí)現(xiàn)銷(xiāo)售額曲線展示,groupby 分組樓層客流分布,timeserise 做天匯總。

諸葛報(bào)表系統(tǒng)

諸葛報(bào)表系統(tǒng)是蘇寧重要的系統(tǒng)之一,能夠幫助業(yè)務(wù)做出決策分析,減少手工分析成本,幫助提高銷(xiāo)售,該系統(tǒng)可以主動(dòng)給業(yè)務(wù)發(fā)送銷(xiāo)售數(shù)據(jù),推動(dòng)業(yè)務(wù)進(jìn)行銷(xiāo)售關(guān)注和分析。

圖 4:諸葛報(bào)表系統(tǒng)

諸葛業(yè)務(wù)大致情況如下:

  • 數(shù)據(jù)量:保存近幾年數(shù)據(jù)。
  • 數(shù)據(jù)接入方式:Kafka 實(shí)時(shí)數(shù)據(jù)接入。
  • 查詢(xún)方式:實(shí)時(shí)查詢(xún)。
  • 業(yè)務(wù)實(shí)現(xiàn):topN 實(shí)現(xiàn)銷(xiāo)售餅圖展示,groupby 分組實(shí)現(xiàn)大區(qū)銷(xiāo)售排名。

上文簡(jiǎn)單介紹了一下什么是 Druid 以及 Druid 在蘇寧的兩個(gè)業(yè)務(wù)場(chǎng)景應(yīng)用,那 Druid 在蘇寧的平臺(tái)建設(shè)是怎樣的呢?

Druid 在蘇寧的平臺(tái)建設(shè)

圖 5:兩種架構(gòu)

Druid 的平臺(tái)建設(shè)在蘇寧主要有兩種:

  • 通過(guò) OCEP(提供負(fù)載均衡,查詢(xún)路由功能等),使用 Druid 原生的能力,滿足業(yè)務(wù)一系列的需求。
  • 結(jié)合蘇寧的天工系統(tǒng)和百川系統(tǒng),Druid 作為 OLAP 引擎的底層加速系統(tǒng),提供統(tǒng)一報(bào)表的查詢(xún)能力。

目前,大部分的業(yè)務(wù)使用 Druid 的方式主要還是第一種,有少量的業(yè)務(wù)使用的是第二種方式,隨著第二種方式的逐漸成熟,后面大家的業(yè)務(wù)會(huì)逐漸從第一種方式遷移到第二種上去,實(shí)現(xiàn)資源統(tǒng)一。

基于 OCEP 的平臺(tái)架構(gòu)

圖 6:基于 OCEP 的平臺(tái)架構(gòu)

該平臺(tái)主要依賴(lài) OCEP,對(duì)外提供一系列的 OLAP 查詢(xún)服務(wù),滿足集團(tuán)內(nèi)部各種業(yè)務(wù)的維度指標(biāo)分析需求:

  • 通過(guò) tranquility 實(shí)時(shí)消費(fèi)業(yè)務(wù)數(shù)據(jù),發(fā)送到 Druid 的 realtime peon,并進(jìn)行 handoff 持久化到 HDFS 上,由 coordinator 進(jìn)行加載到 historical 中,提供查詢(xún)服務(wù)。
  • 通過(guò)蘇寧自研的 IDE 任務(wù)調(diào)度系統(tǒng),將 HDFS 上的離線數(shù)據(jù)(一般是數(shù)倉(cāng)數(shù)據(jù))經(jīng)過(guò) mapreduce 任務(wù)處理完寫(xiě)入到 Druid 指定的 HDFS 路徑下,同樣由 coordinator 進(jìn)行加載到 historical 中,提供查詢(xún)服務(wù)。
  • 最后通過(guò) OCEP,將業(yè)務(wù)的查詢(xún)路由到各個(gè) broker 上,broker 再分發(fā)給 historical,經(jīng)過(guò) historical 計(jì)算后,再向上一層一層返回給業(yè)務(wù)。

基于 OLAP 引擎的平臺(tái)架構(gòu)

圖 7:基于 OLAP 引擎的平臺(tái)架構(gòu)

為保證數(shù)據(jù)的一致性和統(tǒng)一性,該平臺(tái)基于 OLAP 引擎,為集團(tuán)各個(gè)業(yè)務(wù)提供統(tǒng)一的維度指標(biāo)分析系統(tǒng):

  • 百川系統(tǒng)通過(guò) OLAP 引擎構(gòu)建模型,OLAP 引擎根據(jù)業(yè)務(wù)需求,將模型拆分成若干個(gè) cube,存儲(chǔ)到底層的 Druid,Hive,PG 和 ES。我們稱(chēng)這個(gè)過(guò)程為模型加速,另外,百川系統(tǒng)自身會(huì)構(gòu)建各種各樣的指標(biāo)。
  • 業(yè)務(wù)方,比如天工,諸葛等系統(tǒng)通過(guò)百川提供的指標(biāo),選擇其中一個(gè)或多個(gè)進(jìn)行報(bào)表的構(gòu)建,其查詢(xún)請(qǐng)求會(huì)發(fā)送到百川系統(tǒng)。
  • 百川系統(tǒng)構(gòu)造 SQL 語(yǔ)句,再把請(qǐng)求發(fā)送到 OLAP 引擎,OLAP 引擎通過(guò)底層的 Spark 平臺(tái),解析 SQL 語(yǔ)句,將請(qǐng)求路由到 Druid,ES,Hive 和 PG,其中,時(shí)序化數(shù)據(jù)的聚合查詢(xún),將路由到 Druid 平臺(tái),最后查詢(xún)結(jié)果一層一層匯總到上層的業(yè)務(wù)系統(tǒng)。
  • 整個(gè)系統(tǒng)的監(jiān)控,通過(guò)云跡系統(tǒng)、華佗系統(tǒng)等進(jìn)行監(jiān)控,將系統(tǒng)日志接入云跡,將系統(tǒng)的 metric 信息接入華佗。

隨著 Druid 平臺(tái)建設(shè)的不斷推進(jìn),使用 Druid 的業(yè)務(wù)也越來(lái)越多,在使用的過(guò)程中也會(huì)遇到各種各樣的問(wèn)題,下文總結(jié)了蘇寧業(yè)務(wù)開(kāi)發(fā)人員在使用 Druid 中遇到的一些問(wèn)題,希望對(duì)正在閱讀本文的讀者有些幫助。

Druid 使用建議

本小節(jié)主要想結(jié)合實(shí)際問(wèn)題,給大家提供一些 Druid 的使用建議,供大家參考。

①什么樣的業(yè)務(wù)適合用 Druid?

建議如下:

  • 時(shí)序化數(shù)據(jù):Druid 可以理解為時(shí)序數(shù)據(jù)庫(kù),所有的數(shù)據(jù)必須有時(shí)間字段。
  • 實(shí)時(shí)數(shù)據(jù)接入可容忍丟數(shù)據(jù)(tranquility):目前 tranquility 有丟數(shù)據(jù)的風(fēng)險(xiǎn),所以建議實(shí)時(shí)和離線一起用,實(shí)時(shí)接當(dāng)天數(shù)據(jù),離線第二天把今天的數(shù)據(jù)全部覆蓋,保證數(shù)據(jù)完備性。
  • OLAP 查詢(xún)而不是 OLTP 查詢(xún):Druid 查詢(xún)并發(fā)有限,不適合 OLTP 查詢(xún)。
  • 非精確的去重計(jì)算:目前 Druid 的去重都是非精確的。
  • 無(wú) Join 操作:Druid 適合處理星型模型的數(shù)據(jù),不支持關(guān)聯(lián)操作。
  • 數(shù)據(jù)沒(méi)有 update 更新操作,只對(duì) segment 粒度進(jìn)行覆蓋:由于時(shí)序化數(shù)據(jù)的特點(diǎn),Druid 不支持?jǐn)?shù)據(jù)的更新。

②如何設(shè)置合理的 Granularity?

圖 8:Granularity 設(shè)置

首先解釋下 segmentGranularity 和 queryGranularity,前者是 segment 的組成粒度,后者是 segment 的聚合粒度。

要求 queryGranularity 小于等于 segmentGranularity,然后在數(shù)據(jù)導(dǎo)入時(shí),按照下面的規(guī)則進(jìn)行設(shè)置。

segmentGranularity(離線數(shù)據(jù)導(dǎo)入的設(shè)置):

  • 導(dǎo)入的數(shù)據(jù)是天級(jí)別以?xún)?nèi)的:“hour”或者“day”。
  • 導(dǎo)入的數(shù)據(jù)是天級(jí)別以上的:“day”。
  • 導(dǎo)入的數(shù)據(jù)是年級(jí)別以上的:“month”。

需要說(shuō)明的是,這里我們僅僅是簡(jiǎn)單的通過(guò) intervals 進(jìn)行 segmentGranularity 的設(shè)置,更加合理的做法應(yīng)該是結(jié)合每個(gè) segment 的大小以及查詢(xún)的復(fù)雜度進(jìn)行綜合衡量。

考慮到 tranquility 實(shí)時(shí)任務(wù)的特殊性和數(shù)據(jù)的安全性,我們建議實(shí)時(shí)數(shù)據(jù)導(dǎo)入時(shí),segmentGranularity 設(shè)置成“hour”。

queryGranularity:根據(jù)業(yè)務(wù)查詢(xún)最小粒度和查詢(xún)復(fù)雜度來(lái)定,假設(shè)查詢(xún)只需要到小時(shí)粒度,則該參數(shù)設(shè)置為“hour”。

③需要去重的維度到底需不需要定義到維度列中?

圖 9:去重維度定義

如果去重的維度只需要去重計(jì)算,沒(méi)有其他的作用,譬如進(jìn)行過(guò)濾或者作為分組字段,我們建議不要添加到維度列中,因?yàn)椴惶砑拥脑挘@樣數(shù)據(jù)的預(yù)聚合效果更好。

④如何選擇查詢(xún)方式?

常用的三種查詢(xún):

  • select sum(A) from DS where time>? [timeseries]
  • select sum(A) from DS where time>? group by B order by C limit 2 [topN]
  • select sum(A) from DS where time>? group by B,C order by C limit 2[groupby]

沒(méi)有維度分組的場(chǎng)景使用 timeseries,單維度分組查詢(xún)的場(chǎng)景使用 topN,多維度分組查詢(xún)場(chǎng)景使用 groupby。

由于 groupby 并不會(huì)將 limit 下推(Druid 新版本進(jìn)行了優(yōu)化,雖然可以下推,但是對(duì)于指標(biāo)的排序是不準(zhǔn)確的),所以單維度的分組查詢(xún),盡量用 topN 查詢(xún)。

我們做的工作

從 Druid 引入蘇寧之后,不久便承擔(dān)起了 OLAP 分析的重任,作為底層核心引擎支撐模型和指標(biāo)服務(wù),并為集團(tuán)各條業(yè)務(wù)線的 OLAP 分析服務(wù),在過(guò)去的時(shí)間里,我們做了很多工作,本文列舉一些進(jìn)行說(shuō)明。

①OCEP(Druid 集群前置 proxy)

圖 10:OCEP(Druid 集群前置 proxy)

OCEP 是 Druid 集群一個(gè)前置 proxy,通過(guò)它來(lái)提供更加完備的 Druid 集群化和服務(wù)化能力,并解決當(dāng)前 Druid 服務(wù)存在的各種問(wèn)題。

它提供的功能主要有:

  • 訪問(wèn)鑒權(quán)(針對(duì)每個(gè) datasource 提供 token 訪問(wèn)鑒權(quán),保證數(shù)據(jù)安全)。
  • 訪問(wèn)審計(jì)(對(duì)每個(gè)查詢(xún)都會(huì)生成唯一的 queryId,提供完整的請(qǐng)求來(lái)源)。
  • 請(qǐng)求攔截(對(duì)非預(yù)期的訪問(wèn),制定攔截策略,細(xì)化到具體的 datasource 和查詢(xún)語(yǔ)句)。
  • 請(qǐng)求路由(根據(jù)集群名稱(chēng)和 datasource,將請(qǐng)求路由到指定的 Druid 集群,并根據(jù)后端 broker 的壓力,將請(qǐng)求負(fù)載均衡各個(gè) broker 上)。
  • 服務(wù)隔離(可設(shè)置策略,對(duì)于不同的 datasource 的請(qǐng)求,可路由到指定的 broker 上,實(shí)現(xiàn) broker 隔離)。

②Druid 查詢(xún)客戶(hù)端

官方提供的查詢(xún)方式是通過(guò)編寫(xiě) Json 文件,以 HTTP 的方式請(qǐng)求 Druid,然而這種方式的缺點(diǎn)也很明顯,首先 Json 內(nèi)容書(shū)寫(xiě)繁瑣,格式極易寫(xiě)錯(cuò),另外在 Java 開(kāi)發(fā)時(shí),出現(xiàn)問(wèn)題不利于定位。

圖 11:Json 語(yǔ)句

于是我們封裝了一層 Java API,如下圖:

圖 12:Druid Java Client

③資源隔離

圖 13:資源隔離

不同業(yè)務(wù)的數(shù)據(jù)量有大小之分以及對(duì)服務(wù)穩(wěn)定性要求不一樣,我們通過(guò)以下三點(diǎn)實(shí)現(xiàn)業(yè)務(wù)層面的隔離:

  • Historical 分組:集群設(shè)置不同的 tier,存儲(chǔ)不同的業(yè)務(wù)數(shù)據(jù)。
  • Broker 隔離:通過(guò) OCEP 設(shè)置 datasource 白名單,不同的 broker 只提供某個(gè)或某幾個(gè) datasource 的查詢(xún)。
  • 冷熱數(shù)據(jù)隔離:通過(guò)設(shè)置 datasource 的 rule,將冷熱數(shù)據(jù)分別存儲(chǔ)在不同的 tier 中。
  • Druid 白名單控制。

集群穩(wěn)定性壓倒一切,防止控制以外的機(jī)器對(duì)集群進(jìn)行無(wú)效查詢(xún)和攻擊,我們通過(guò)增加一個(gè) whitelist 的 extension,以模塊的方式在服務(wù)端進(jìn)行白名單的控制。

并且可以針對(duì)不同的服務(wù)進(jìn)行控制,將 whitelist 的配置文件寫(xiě)在 Druid 的 metadata 的 config 表中,實(shí)現(xiàn)動(dòng)態(tài)更新。

圖 14:白名單 extension

圖 15:Druid 白名單配置

④Druid 離線導(dǎo)入時(shí)對(duì) intervals 的控制

有些離線導(dǎo)入的任務(wù),占用了 YARN 太多的資源,個(gè)別任務(wù)消耗了上千個(gè)或者上萬(wàn)的 container 資源,分析發(fā)現(xiàn)是由于業(yè)務(wù)設(shè)置的 segmentGranularity 不合理,最終會(huì)導(dǎo)致 segment 過(guò)多,產(chǎn)生很多 HDFS 小文件。

于是我們?cè)?overlord 服務(wù)端,增加參數(shù)“druid.indexer.intervals.maxLimit”,對(duì)離線任務(wù)進(jìn)行判斷。

如果 segmentGranularity 和 interval 設(shè)置的不合理,將禁止提交。譬如,segmentGranularity 設(shè)置的是小時(shí),interval 設(shè)置的間隔是 1 年,這種是不合理的,服務(wù)端將禁止數(shù)據(jù)導(dǎo)入。

圖 16:離線導(dǎo)入對(duì) intervals 的控制參數(shù)配置

⑤Coordinator 自動(dòng) merge segment 時(shí)啟動(dòng) task 的并發(fā)數(shù)控制

在集群中,我們打開(kāi)了 coordinator 自動(dòng) merge segment 的功能,coordinator 默認(rèn)每隔 30 分鐘,啟動(dòng) merge 線程,掃描所有的 datasource,將過(guò)小的 segment 按要求進(jìn)行合并。

每當(dāng)一批 segment 符合 merge 要求了,就會(huì)請(qǐng)求 overlord 進(jìn)行啟動(dòng) merge task。

如果集群內(nèi)小 segment 很多,merge task 將啟動(dòng)無(wú)數(shù)個(gè),堵塞 middleManager 的 peon 資源,我們?cè)黾酉拗?merge task 的并發(fā)數(shù)的參數(shù),保證每次 merge 線程只啟動(dòng)一定數(shù)量的 task。

圖 17:設(shè)置 merge task 的并發(fā)數(shù)

⑥D(zhuǎn)ruid 監(jiān)控

監(jiān)控對(duì)于任何一個(gè)系統(tǒng)而言都是非常重要的,可以幫助我們提前預(yù)知系統(tǒng)的健康狀況,Druid 的監(jiān)控主要有兩點(diǎn),業(yè)務(wù)查詢(xún)情況和平臺(tái)運(yùn)行情況。

前者主要包括 datasource 的查詢(xún)量、查詢(xún)耗時(shí)、網(wǎng)絡(luò)流量等;后者主要包括各個(gè)服務(wù)的 gc 情況、cpu 和內(nèi)存使用情況、空閑 Jetty 線程數(shù)等。

我們的監(jiān)控方案是 Druid_Common 集群和 Druid_OLAP 集群相互監(jiān)控,互相存儲(chǔ)對(duì)方的 metric 信息,然后通過(guò) superset 展示。

圖 18:Druid 的監(jiān)控方案

未來(lái)規(guī)劃

Druid 在蘇寧還有很長(zhǎng)一段路要走,無(wú)論從查詢(xún)優(yōu)化方面還是集群管理方面,都有很多事情要做。

查詢(xún)優(yōu)化方面:

  • 高基數(shù)問(wèn)題:高基數(shù)查詢(xún)一直是 OLAP 查詢(xún)的一大痛點(diǎn),新版本雖然支持 limit 下推,但也只是對(duì)維度進(jìn)行排序的時(shí)候,才能保證準(zhǔn)確性。
  • SQL 支持:進(jìn)行 Druid 版本升級(jí),提供豐富的 SQL 查詢(xún)接口。
  • 精準(zhǔn)去重:目前 Druid 對(duì)去重的計(jì)算,無(wú)論是 HyperLogLog、ThetaSketch 還是最新版本提供的 HLLSketch 都是非精確的,后面考慮是否可以通過(guò)集成 bitmap 解決。

集群管理方面:

  • Kafkaindex service 使用:tranquility 的時(shí)間窗口限制會(huì)造成延遲很大的數(shù)據(jù)丟失,而且實(shí)時(shí) peon 的管理不夠靈活,某些場(chǎng)景下,也會(huì)造成數(shù)據(jù)丟失。

而 Kafka index service 的實(shí)時(shí) peon 調(diào)用了 Kafka 底層的 API,管理更靈活,依賴(lài) Kafka 實(shí)現(xiàn)數(shù)據(jù)的不丟不重。

  • Datasource 跨集群遷移:Druid 無(wú)論是數(shù)據(jù)導(dǎo)入還是數(shù)據(jù)查詢(xún)都非常依賴(lài) Zookeeper,當(dāng)集群規(guī)模越來(lái)越大,datasource 越來(lái)越多的時(shí)候,Zookeeper 也許會(huì)成為瓶頸。

這樣的話,就需要做 datasource 的遷移,而遷移工作涉及到 datasource 元數(shù)據(jù)和 HDFS 數(shù)據(jù)的遷移,如何讓遷移工作輕量化,是我們需要思考的。

作者:李成露

簡(jiǎn)介:蘇寧易購(gòu) IT 總部大數(shù)據(jù)中心大數(shù)據(jù)平臺(tái)研發(fā)工程師。多年大數(shù)據(jù)底層平臺(tái)開(kāi)發(fā)經(jīng)驗(yàn)。現(xiàn)負(fù)責(zé)蘇寧大數(shù)據(jù)底層平臺(tái)的計(jì)算資源調(diào)度平臺(tái)以及 Druid 平臺(tái)的研發(fā)工作,提供離線計(jì)算平臺(tái)和實(shí)時(shí)計(jì)算平臺(tái)的資源調(diào)度方案,提供基于 Druid 的 OLAP 平臺(tái),為集團(tuán)各種維度指標(biāo)分析業(yè)務(wù)提供穩(wěn)定保障。

【51CTO原創(chuàng)稿件,合作站點(diǎn)轉(zhuǎn)載請(qǐng)注明原文作者和出處為51CTO.com】

責(zé)任編輯:武曉燕 來(lái)源: 51CTO技術(shù)棧
相關(guān)推薦

2017-12-21 19:38:50

潤(rùn)乾中間表

2022-07-26 23:43:29

編程語(yǔ)言開(kāi)發(fā)Java

2013-01-15 09:41:45

編程語(yǔ)言

2019-01-31 10:15:14

群聊單聊消息

2019-07-05 15:52:03

數(shù)據(jù)科學(xué)家大數(shù)據(jù)機(jī)器學(xué)習(xí)

2016-12-01 13:40:37

2022-08-04 23:32:38

比特幣以太坊代幣

2015-06-25 13:31:19

2014-02-19 10:36:47

虛擬運(yùn)營(yíng)商蘇寧

2024-06-14 09:21:32

2022-01-12 20:04:09

網(wǎng)絡(luò)故障斷網(wǎng)事件網(wǎng)絡(luò)安全

2022-11-09 10:32:50

群業(yè)務(wù)群聊數(shù)據(jù)結(jié)構(gòu)

2020-07-02 14:12:52

C++語(yǔ)言編程

2021-08-19 06:53:18

開(kāi)發(fā)語(yǔ)言Java

2015-01-14 14:27:18

Docker容器鏡像

2024-03-01 17:01:15

GraphQL后端

2020-04-27 09:45:16

網(wǎng)絡(luò)工程師網(wǎng)絡(luò)技術(shù)網(wǎng)絡(luò)

2024-02-04 10:29:58

線程通信

2021-05-31 22:26:20

5G技術(shù)通信

2024-04-02 08:41:10

ArrayListSubList場(chǎng)景
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)

一区二区三区产品免费精品久久75| 日本美女一区二区| 亚洲黄页网在线观看| 久久国产成人精品国产成人亚洲| 亚州视频一区二区三区| 日韩综合小视频| 精品国产一区二区三区久久久 | 国产在线精品一区二区三区不卡| 欧美福利视频在线| 精品人妻无码一区二区三区换脸| 欧美另类激情| 精品免费在线观看| 亚洲综合首页| 手机在线观看免费av| 奇米888四色在线精品| 欧美激情精品久久久久久大尺度 | 国产福利精品一区二区三区| 污网站在线免费看| 久久久午夜精品| 91传媒视频免费| 高潮毛片又色又爽免费| 欧美精品网站| 这里只有精品久久| 好吊色视频一区二区三区| 国产精品蜜月aⅴ在线| 精品av在线播放| 男女裸体影院高潮| 91在线看片| 久久综合久久综合九色| 999日本视频| 国产精品尤物视频| 9色精品在线| 色综合色综合网色综合| 国产精品情侣呻吟对白视频| 欧美调教视频| 日韩欧美在线影院| 日日干夜夜操s8| 欧美人体一区二区三区| 精品国产1区2区| 日本福利视频一区| 日韩专区av| 亚洲精品视频观看| 亚洲一区二区精品在线观看| 黄色片免费在线| 久久一二三国产| 久久精品99久久| 手机av免费在线观看| 国产精品1区二区.| 91久久久一线二线三线品牌| 国产精品视频一二区| 麻豆精品视频在线| 国产精品专区h在线观看| 久久亚洲精品石原莉奈| 久久激情网站| 国产成人一区二区三区电影| 黑人精品无码一区二区三区AV| 一区二区亚洲| 97人人做人人爱| 欧美国产成人精品一区二区三区| 国产偷自视频区视频一区二区| 久久琪琪电影院| 自拍偷拍欧美亚洲| 蜜桃久久av| 国产精品久久久999| 中文文字幕一区二区三三| 日本成人中文字幕| 国产精品永久免费观看| 国产永久免费视频| 精品一区二区国语对白| 亚洲www视频| www.色亚洲| 成人av一区二区三区| 国产精品视频500部| 欧美熟妇另类久久久久久不卡| 成人av在线网| 欧美日韩在线观看一区二区三区| 九色在线观看视频| 中文字幕在线不卡一区| 日本一道在线观看| av成人影院在线| 色综合久久中文字幕综合网| 91精品无人成人www| 电影一区中文字幕| 亚洲成人黄色在线观看| 99久久久无码国产精品性| 成人a'v在线播放| 美女av一区二区| 西西44rtwww国产精品| 日韩av高清在线观看| 亚洲最大福利网| 可以在线观看的av| 亚洲日本在线观看| 成人在线免费观看av| 日韩成人综合网| 精品欧美久久久| 阿v天堂2014| 欧美激情无毛| 国产精品久久久久久久久影视| 一区二区三区免费观看视频| 成人午夜激情片| 亚洲视频在线二区| 电影在线观看一区| 911国产精品| 亚洲av无码一区二区二三区| 99精品在线免费在线观看| 性欧美在线看片a免费观看| 日韩欧美国产另类| 粉嫩高潮美女一区二区三区| 日本福利一区二区三区| 天天干在线视频论坛| 在线亚洲一区二区| 性农村xxxxx小树林| 日本久久一二三四| 97精品国产91久久久久久| 一级黄色大片网站| 久久久不卡影院| 欧美一级欧美一级| 精品国产一区二| 国产视频一区在线| 国产在线一区视频| 日韩一区精品视频| 精品国产福利| 美女航空一级毛片在线播放| 欧美系列一区二区| 好吊日免费视频| 亚洲国产一区二区三区a毛片| 国产日韩欧美电影在线观看| 男男电影完整版在线观看| 亚洲国产日日夜夜| 久久久久无码精品| 久久久久电影| 91精品久久久久久久久久久久久久 | 男生草女生视频| 亚洲国产婷婷| 国产一区二区三区四区hd| 超碰在线免费播放| 欧美精品久久一区| 啪啪一区二区三区| 免费成人美女在线观看.| 精品一区二区三区视频日产| 欧美xxxx免费虐| 日韩欧美一二三| 欧美成欧美va| 国产精品一区免费在线观看| 综合色婷婷一区二区亚洲欧美国产| 91精品xxx在线观看| 亚洲人成网站777色婷婷| 久久久久久91亚洲精品中文字幕| 99在线精品免费| 免费av手机在线观看| 国产精品一区二区中文字幕| 欧美激情乱人伦一区| 亚洲欧美激情另类| 亚洲第一精品在线| 波多野结衣影院| 午夜一区二区三区不卡视频| 久久亚洲高清| 日韩在线免费| 日韩中文字幕网| 国产毛片毛片毛片毛片| 亚洲欧美成aⅴ人在线观看| 91欧美一区二区三区| 国产精品大片| 国内精品国语自产拍在线观看| a级片在线免费观看| 国产视频欧美视频| 伊人影院中文字幕| 亚洲色图欧美偷拍| 欧美图片自拍偷拍| 中日韩男男gay无套| 欧美系列一区| 青青久久精品| 欧美激情精品久久久久久变态| 少妇高潮一区二区三区69| 欧美午夜www高清视频| 在线国产视频一区| 狠狠网亚洲精品| 久久久久久人妻一区二区三区| 亚洲国产精品嫩草影院久久av| 国产精品激情av电影在线观看| 看女生喷水的网站在线观看| 欧美一区二区精美| 国产成人在线播放视频| 欧美激情一区二区三区全黄| 国产乱码一区二区三区四区| 激情亚洲成人| 午夜免费电影一区在线观看| 激情综合五月| 欧美综合激情网| 国产成人在线视频免费观看| 日韩大陆毛片av| 97人妻精品一区二区三区动漫 | 国产精品一色哟哟| 国产探花一区二区| 亚洲自拍小视频| 久久sese| 久久久噜噜噜久久久| 第三区美女视频在线| 精品国产一区二区在线观看| 亚洲GV成人无码久久精品| 成人欧美一区二区三区黑人麻豆 | 国产清纯白嫩初高生在线观看91| 91日韩精品视频| 久久国产精品99国产| 老司机激情视频| 日韩国产专区| 久热国产精品视频一区二区三区| 91成人在线网站| 国产91在线播放| 91丝袜在线| 欧美插天视频在线播放| av在线播放网站| 日韩激情视频在线播放| 精品国产伦一区二区三区| 日本久久电影网| 午夜免费激情视频| 久久久午夜精品| 国产精品久久不卡| 成人妖精视频yjsp地址| 在线能看的av网站| 可以看av的网站久久看| 国产欧美日韩网站| 欧美日本一区| 裸体裸乳免费看| 日韩影院二区| 日日骚一区二区网站| 欧美日韩导航| 精品国产乱码久久久久久108| 国产专区精品| 成人黄色影片在线| 成人亚洲综合| 国产精品美女免费视频| 久久sese| 国产精品久久久久久久久男| 日韩欧美看国产| 欧美亚洲国产精品| 中文字幕在线免费观看视频| 久久久噜久噜久久综合| 黄页网站大全在线免费观看| 欧美大胆在线视频| 菠萝菠萝蜜在线视频免费观看 | 97人人在线视频| 欧美极品少妇xxxxⅹ喷水| 亚洲综合伊人久久大杳蕉| 日韩三级影视基地| 国产精品刘玥久久一区| 久久久精品一区二区| 里番在线观看网站| 久久亚洲国产精品| 五月天婷婷在线视频| 日韩最新在线视频| h片在线播放| 欧美黑人国产人伦爽爽爽| xxx.xxx欧美| 97碰在线观看| 电影久久久久久| 国产精品视频区| 国产高清视频一区二区| 亚洲va男人天堂| 国产精品sss在线观看av| 国产综合欧美在线看| 久久av影视| 亚洲激情啪啪| 欧美 日韩 国产 一区| 国产情侣第一页| 一本久道久久久| 亚洲男人天堂色| 国产一区二区在线视频| 亚洲精品成人无码毛片| 97精品久久久午夜一区二区三区| 国产精品无码一区二区三区| 国产女人18毛片水真多成人如厕| 中文国语毛片高清视频| 有坂深雪av一区二区精品| 亚洲国产精一区二区三区性色| 色婷婷国产精品综合在线观看| 中文字幕乱码视频| 日韩欧美国产系列| 日韩在线免费播放| xvideos亚洲| 国产传媒在线观看| 国产精品午夜一区二区欲梦| 欧美成年网站| 欧美lavv| 欧美成人午夜| 国产又黄又大又粗视频| 美国av一区二区| 久久久久国产免费| 国产午夜精品一区二区三区视频 | 久久偷看各类wc女厕嘘嘘偷窃 | 天天综合五月天| 国产一区二区三区的电影| 最新天堂中文在线| 成人精品视频网站| 国产精品18在线| 婷婷国产在线综合| 国产又粗又猛又黄又爽无遮挡| 欧美精品一区二区三区很污很色的 | 99久久777色| 无码黑人精品一区二区| 日韩欧美精品中文字幕| 99精品视频在线播放免费| 日韩精品欧美国产精品忘忧草 | 久久久中精品2020中文| 国产精品久久久久久久久免费高清 | 日韩av电影免费观看高清| 精品中文字幕一区二区三区四区| 免费在线一区二区| 国产精品啊啊啊| 国产高清av片| 中文字幕精品一区二区三区精品| 久青草视频在线观看| 欧美老女人在线| 国产精品视频一区二区久久| 九九热最新视频//这里只有精品| 欧美大胆成人| 精品1区2区| 国产精品chinese| 免费成人黄色大片| 欧美激情一区三区| 欧美三级一区二区三区| 日韩三级.com| 宅男网站在线免费观看| 国产在线播放91| 日韩欧美伦理| 国产福利影院在线观看| 久久亚洲一区二区三区四区| 国产一级片免费| 欧美变态tickling挠脚心| 国产在线69| 成人激情视频网| 久久中文亚洲字幕| 亚洲精品自拍网| 国产精品三级久久久久三级| 日本黄色一级视频| 精品一区二区三区四区在线| 91超碰在线免费| 国产麻豆一区二区三区在线观看| 欧美一区网站| 五月天六月丁香| 一区二区三区欧美| wwwav在线播放| 欧美麻豆久久久久久中文| 亚洲高清999| 国产免费裸体视频| 丁香五精品蜜臀久久久久99网站| 欧美成人精品一区二区免费看片| 欧美一级搡bbbb搡bbbb| 2021av在线| 成人一区二区电影| 欧美久色视频| 免费不卡的av| 精品成人av一区| 狠狠v欧美ⅴ日韩v亚洲v大胸| 日韩av免费一区| 成人在线亚洲| 91福利免费观看| 一区二区三区中文字幕| 男人天堂av网| 日本久久久久久| 日韩专区精品| 欧美污在线观看| 午夜精品久久久久久久99水蜜桃 | 欧洲亚洲精品| 丰满人妻一区二区三区53号| 国产高清不卡一区| 日本三级2019| 亚洲香蕉成人av网站在线观看| 亚洲电影有码| 2022中文字幕| 91原创在线视频| 国产精品高清无码| 久久国产精品久久国产精品| 77成人影视| 日本精品www| 亚洲人成网站影音先锋播放| 隣の若妻さん波多野结衣| 欧美在线视频网站| 久久人体视频| 四季av综合网站| 欧美午夜精品理论片a级按摩| 成人在线免费看片| 久久久福利视频| 韩国精品免费视频| 日本中文字幕在线免费观看| 国产一区二区三区三区在线观看| 亚洲伦理网站| 哪个网站能看毛片| ...中文天堂在线一区| 图片区 小说区 区 亚洲五月| 国产激情久久久久| 亚洲天堂久久| 五月天婷婷丁香网| 亚洲精品国产精品国自产在线 | 精品国产乱码久久久久久鸭王1 | 亚洲wwwww| 欧美尤物一区| 成人av在线资源网站| 91精品国自产| 国产97在线播放|