精品欧美一区二区三区在线观看 _久久久久国色av免费观看性色_国产精品久久在线观看_亚洲第一综合网站_91精品又粗又猛又爽_小泽玛利亚一区二区免费_91亚洲精品国偷拍自产在线观看 _久久精品视频在线播放_美女精品久久久_欧美日韩国产成人在线

數倉公共層,還有存在的必要嗎?

大數據 數據倉庫
自我接觸數倉以來,數倉建模就是最為核心的工作,而數倉建模的主要目的是建立公共層,公共層主要起到兩個作用,第一個是屏蔽底層的變動對上層應用的影響,第二個作用是通過復用沉淀的公共層來提升應用支撐的效率,但在長期的數倉公共層運營實踐中中,我發現公共層的表現不總是沿著我們設想的軌跡演進。

?自我接觸數倉以來,數倉建模就是最為核心的工作,而數倉建模的主要目的是建立公共層,公共層主要起到兩個作用,第一個是屏蔽底層的變動對上層應用的影響,第二個作用是通過復用沉淀的公共層來提升應用支撐的效率,但在長期的數倉公共層運營實踐中中,我發現公共層的表現不總是沿著我們設想的軌跡演進。

1、無論數倉公共層開始的時候設計的多么完美,數倉公共層最后的使用比例2/8現象明顯,大量的公共層模型是沒人使用的,項目投入的80%都被浪費了。

2、當前的數倉公共層和5年前的數倉公共層差別不是很大,意味著新業務沒必要用新的公共層去支撐,間接否認了公共層存在的必然性。

3、數據倉庫公共層經常會由于積重難返而被推道重來,比如5年一次,對于公共層的投資似乎并不是很劃算的生意。

我們當然不能否認公共層的價值,但其價值也許的確被高估了,設想一種場景,假如不預先做數倉公共層的建模,我們對業務的支持真的會變得很糟糕嗎?恰好,我也有實踐。

1、在遙遠的報表時代,為了實現報表會做大量的臨時匯總表,那個時候沒怎么考慮復用,但似乎也沒什么大問題。在報表時代過度到數據倉庫時代的時候,其實并沒有什么強烈的業務驅動要做什么公共層,但由于那個時候數倉關系建模已經興起,大家都覺得做公共層成了理所當然的事情,畢竟復用是很先進的理念,但其實大多就是把臨時匯總表搞成了公共層而已。

2、在大數據時代,我們在hadoop上開出了很多租戶,雖然主租戶做了大量公共層模型,但各個部門的租戶基本上是隨著應用的需要建立起的一堆中間表和寬表,復用主租戶的公共模型并不是很多,但大多卻活得很好,我們經常指責租戶沒用復用意識,導致大量的計算資源浪費,但要說浪費,我們80%的公共模型沒人使用何嘗不是更大的浪費呢?事實上,各個部門租戶的資源是有限的,但各部門還是靠自己的運營保證了基本的生產需要。

數倉公共層的理想很好,但大多數據團隊實際并不具備什么公共層的運營能力,為什么呢?

1、大多公司的業務團隊比較強勢,數據團隊很難堅持一些數據架構的原則

2、業務部門提需求沒有什么成本,大量低質量的需求把數據團隊有限的資源耗光了,數據團隊很難有時間去考慮公共層的優化

3、公共層的價值體現很慢,大家更多的精力還是投在了應用建模上

4、公共層對于業務、技術、數據的綜合要求很高,數據團隊普遍缺乏此類人才

與此同時,數據湖、湖倉一體等新技術的出現都對數倉公共層的建設必要性提出挑戰,技術的趨勢似乎都在朝著數倉公共層的反面進行,即強調原始數據分析的所見即所得,強調對不可知數據和不可知業務的探索分析。

數據倉庫通常預先定義 schema,外部數據需要按照標準寫入(比如清洗轉化等)并對外提供數據服務查詢接口,數倉公共層進一步延伸了這種設計思想,通過事先的生成和約束來確保良好的數據性能,所謂先建模再使用,強調的是未來的成長性。

數據湖則是反過來的,外部數據幾乎不受限制的進入數據湖,只有在需要使用的時候才明確 schema來建模,數據湖也不存在所謂的公共層,應用需要就即席建模,強調的是靈活性。

10年前數據倉庫是主流,因為業務需求主要就是循規蹈矩、按部就班的報表和BI,這種計劃性很強的應用場景非常適合數據倉庫的技術特點,數倉公共層更是讓報表和BI如虎添翼。

靈活性和成長性,對于處于不同時期的企業來說,重要性也是不同的,數倉公共層對于業務成熟的企業來講比較適用,對于初創企業或初創數據團隊來講必要性就很低了,想想自己也是這么過來的,只不過那個時候公司的數據量不是很大,數據結構簡單,ORACLE就是那個時候的數據湖。

但現在是數字化時代,數據的應用場景逐漸向復雜數據(比如非結構化數據)的快速探索、分析、推薦和預測等方向延伸,這些場景不確定性很強,數據的維度很多,導致公共層很難提前準備,數據湖顯然更適應了這些數據和應用的特點。

但我們也知道,數倉公共層必然還是需要的,因為穩定的報表不會消失,問題只在于度的問題,數倉公共層不要過度設計,也許30%的公共層比例是合理的,未來也許更低,當你家的公共層模型比例超過60%的時候,就要想想是否出現了問題。

那這個度在哪里呢?

至少不能簡單的使用公共層模型覆蓋度、復用度這種技術指標來指導公共層模型的建設,因為復用度高并不意味著全局價值最大,甚至較大影響業務的拓展,這里給出公共層模型建設的三個策略:

第一種是技術驅動,就是某些數據量特別大的表如果各個應用單獨匯總會嚴重影響整個系統穩定的,這些表需通過匯總等手段構成公共層然后統一對外提供。

第二種是管理驅動,就是由于數據一致性等經營管理需要必需確保數據的源頭唯一的,這個時候公共層的建設也很有必要。

第三種是業務驅動,就是那些被存量業務馴化出來的高復用公共模型(比如項目建設時期總結提煉出來的寬表),或者已經被業務多次投訴并確認為可以通過建立或優化公共層模型來解決的。

面對新的業務場景,當沒法確認到底是優化公共層模型支撐好還是另起爐灶好的時候,可以先讓子彈飛一會兒,直到以上三種情況的出現為止。當然如果你的團隊有很厲害的架構師并且愿意做公共層模型的工作,那的確可以隨心所欲,因為有足夠的能力來進行全局最優的判斷,但大多時候,我們并不具備這種條件。

我還有一種大膽的設想,就是除了嚴肅的報表,所有的應用支撐都不要搞什么公共層模型復用,自己管自己的就可以了,也許也可以活得很好。?

責任編輯:華軒 來源: 大魚的數據人生
相關推薦

2023-10-04 20:18:50

性價比SSDHDD

2023-10-13 07:14:54

HDD存儲服務

2021-12-05 21:05:49

前端JSON API

2025-05-13 05:11:00

推理模型微調

2023-04-17 09:32:29

IP地址MAC

2024-10-06 13:41:25

2014-12-02 09:58:00

2013-08-08 16:25:08

項目加班

2025-04-09 10:24:36

2022-08-22 17:46:56

虛擬數倉Impala

2025-09-08 09:39:25

2022-07-26 15:38:58

數據倉數據治理數據團隊

2024-01-08 09:08:53

2021-12-02 08:41:30

數倉建模設計

2010-01-07 09:06:15

Windows 7系統優化

2021-01-31 23:54:23

數倉模型

2025-04-08 11:30:00

DIM數據倉庫架構

2024-09-30 14:10:00

2021-12-14 16:06:05

戴爾

2018-07-27 08:47:06

GitHub代碼開發者
點贊
收藏

51CTO技術棧公眾號

狠狠色狠狠色综合日日五| 美女爽到高潮91| 亚洲欧美国产精品久久久久久久 | 国产精品视频一区二区高潮| 美国精品一区二区| 操欧美女人视频| 91精品91久久久中77777| 国产又粗又大又爽的视频| 少妇人妻偷人精品一区二区| 日本麻豆一区二区三区视频| 欧美日韩成人在线播放| 欧美精品黑人猛交高潮| 国产精品中文| 日本道在线观看一区二区| 99久热在线精品视频| 巨骚激情综合| 丁香婷婷综合激情五月色| 国产精品网红直播| 青青草成人av| 欧美激情日韩| 日韩在线精品一区| 老司机福利av| 91精品丝袜国产高跟在线| 在线观看不卡一区| 成人黄色大片网站| 18加网站在线| 国产精品色眯眯| 欧美日韩精品一区| 人妻精品无码一区二区| 国产综合色精品一区二区三区| 日本午夜在线亚洲.国产| 免费网站观看www在线观| 日韩欧美高清| 国产亚洲精品va在线观看| 亚洲色图14p| 成人爽a毛片| 日韩欧美在线影院| 热久久久久久久久| 国产综合色激情| 91国内精品野花午夜精品| 无码专区aaaaaa免费视频| 性欧美1819sex性高清大胸| 国产精品久久久久婷婷| 日韩电影免费观看高清完整| 天堂中文网在线| 成人黄色大片在线观看| 99se婷婷在线视频观看| av中文字幕免费| 国产精品综合久久| 91精品久久久久久蜜桃| 国产麻豆免费视频| 国产一区二区三区免费看 | 久久av.com| 老熟妇高潮一区二区三区| 日韩电影在线视频| 日韩网站免费观看高清| 国产在线免费看| 婷婷激情图片久久| 欧美乱大交xxxxx| 精品一级少妇久久久久久久| 在线精品亚洲| 日本成熟性欧美| 日韩在线播放中文字幕| 日本在线播放一区二区三区| 国产精品羞羞答答| 午夜久久久久久噜噜噜噜| 国产福利一区二区三区在线视频| 亚洲自拍欧美另类| 欧美自拍第一页| 91小视频免费看| 日韩色妇久久av| 快射视频在线观看| 亚洲精品菠萝久久久久久久| 蜜臀精品一区二区| 欧美天堂视频| 3751色影院一区二区三区| 69久久精品无码一区二区| 高潮按摩久久久久久av免费| 日韩精品视频在线观看网址 | 欧美猛男男男激情videos| 尤物tv国产一区| 国产十六处破外女视频| 国产日韩欧美| 成人性生交大片免费看小说 | 国产 日韩 欧美| 精品伦理精品一区| 日韩乱码人妻无码中文字幕久久| 成人久久综合| 欧美精品18videos性欧| 天堂网免费视频| 精品一区二区久久| 国产一区二区免费电影| 成人在线二区| 亚洲高清免费观看高清完整版在线观看| 国产福利视频在线播放| 国产精品亚洲综合在线观看| 亚洲精品二三区| 国产麻豆视频在线观看| 一区二区三区四区五区在线| 91精品久久久久久久久久入口 | 在线观看国产精品淫| 欧美成人黄色网| 日本特黄久久久高潮| 国产精品区二区三区日本| 超碰免费97在线观看| 亚洲一级不卡视频| 中国黄色片一级| 伊人久久大香线蕉综合网蜜芽| 久久亚洲国产成人| 精人妻无码一区二区三区| 麻豆国产精品777777在线| 国产日韩久久| av片在线观看永久免费| 欧美视频在线不卡| 中文字幕一区二区三区人妻电影| 欧美a级片一区| 国产精品久久久久久久久影视| 亚洲国产欧美另类| 亚洲日穴在线视频| 国产超碰在线播放| 香蕉久久夜色精品国产更新时间| 久久亚洲影音av资源网| 自拍偷拍18p| 97se亚洲国产综合自在线观| 妞干网视频在线观看| 亚洲日日夜夜| 日韩视频欧美视频| 国产在线一级片| 久久综合色鬼综合色| 免费一级特黄毛片| 北条麻妃一区二区三区在线观看 | caopeng在线| 欧美日韩久久一区| 91精品国自产在线| 日韩高清一级片| 日韩精品久久一区| 久久天堂av| 在线观看国产精品淫| 日韩不卡高清视频| 国产人成一区二区三区影院| 久久久噜噜噜www成人网| 红杏视频成人| 97在线视频免费播放| 免费观看a视频| 亚洲成人精品影院| av网页在线观看| 亚洲经典三级| 久久er99热精品一区二区三区| www.综合| 日韩黄色av网站| 99久热在线精品996热是什么| av电影在线观看不卡| 99精品在线免费视频| 日韩伦理一区二区三区| 日韩av快播网址| freemovies性欧美| 欧美群妇大交群的观看方式| 在线观看黄网址| 国产精品自拍一区| 青青草成人免费在线视频| 美女午夜精品| 国产精品678| 日本蜜桃在线观看| 日韩欧美色综合网站| 国产污视频在线看| 91视视频在线直接观看在线看网页在线看| 俄罗斯av网站| 郴州新闻综合频道在线直播| 成人黄色午夜影院| 日韩精品卡一| 亚洲美女在线看| 亚洲专区第一页| 亚洲一二三四区不卡| 欧美图片一区二区| 国内精品国产三级国产a久久| 99精品一区二区三区的区别| 日韩精品视频中文字幕| 538国产精品视频一区二区| 国产大学生校花援交在线播放| 制服.丝袜.亚洲.中文.综合| 日韩精品一区二区三区国语自制| 国产婷婷色一区二区三区| 999久久久精品视频| 亚洲大胆视频| 日韩偷拍一区二区| 亚洲一区二区三区免费| 欧美中文字幕第一页| 成人在线观看亚洲| 日韩精品在线视频观看| 一二三区中文字幕| 亚洲sss视频在线视频| 国产午夜精品久久久久久久久| 国产成人精品免费网站| 麻豆传传媒久久久爱| 欧美国产三级| 日韩三级电影| 伦理一区二区三区| 亚洲综合国产精品| 国产精品字幕| 97久久精品国产| 免费a级在线播放| 亚洲欧美国产精品久久久久久久| 国产精品嫩草影院精东| 欧美性xxxx在线播放| 九九免费精品视频| 日本一区二区视频在线观看| 97人妻精品一区二区三区免费| 久久99国产精品麻豆| 成年人免费在线播放| 欧美网站在线| 中文字幕中文字幕99| 国产99久久| 狠狠久久综合婷婷不卡| 日韩欧美另类中文字幕| 国产精品视频精品| 欧美极度另类| 5566日本婷婷色中文字幕97| 在线观看h网| xx视频.9999.com| 风间由美一区| 亚洲视频欧美视频| 天堂av在线资源| 精品国产91洋老外米糕| 国产伦精品一区二区三区视频痴汉| 色综合天天性综合| 天堂网av手机版| 亚洲国产精品久久一线不卡| 免费中文字幕在线| 亚洲欧美日韩国产中文在线| 午夜激情福利电影| 国产精品久久久久毛片软件| 亚洲综合欧美综合| 国产日本欧洲亚洲| 亚洲精品国产91| 久久青草国产手机看片福利盒子| 国产精品扒开腿做爽爽爽a片唱戏 亚洲av成人精品一区二区三区 | 99久久精品免费看国产交换| 欧美日韩精品一区二区在线播放| 国产精品suv一区| 一本一道久久a久久精品 | 欧美wwww| 欧美多人爱爱视频网站| 日日夜夜天天综合入口| 久久91精品国产91久久跳| a级在线观看| 欧美成人激情图片网| fc2ppv国产精品久久| 久久福利网址导航| 欧美日韩在线视频免费观看| 精品中文字幕乱| 精品精品导航| 91国产中文字幕| 另类专区亚洲| 国产精品色视频| 99视频这里有精品| 97超碰人人模人人爽人人看| 国产精品香蕉| 久久精品99久久| 成人激情在线| 久久人妻无码一区二区| 在线成人av| 欧美在线观看成人| 日韩电影在线观看一区| 欧美成人三级在线播放| 国产一区二区三区综合| 亚洲自拍偷拍精品| 久久久噜噜噜久噜久久综合| 国产7777777| 亚洲精品videosex极品| 国产情侣自拍av| 欧美亚洲尤物久久| www久久久久久| 日韩精品极品视频| 在线视频二区| 欧美激情一级二级| 最新欧美电影| 91精品久久久久久久久久 | 精品88久久久久88久久久| 色哟哟中文字幕| 国产一区二区日韩| 调教一区二区| 日韩av片电影专区| 精品中文字幕一区二区三区| 狠狠爱一区二区三区| 日韩午夜电影网| 麻豆tv在线播放| 久久精品av麻豆的观看方式| 91九色蝌蚪porny| 日本一区二区在线不卡| 国产午夜福利一区二区| 欧美三级午夜理伦三级中视频| 国内老熟妇对白xxxxhd| 亚洲天堂网站在线观看视频| 羞羞视频在线免费国产| 2019中文字幕免费视频| 亚洲欧洲二区| 鲁丝一区二区三区免费| 欧美影视一区| 亚洲一二三区av| 波多野结衣中文字幕一区 | 欧美视频免费一区二区三区| 久久亚洲影音av资源网 | 免费在线观看a视频| 亚洲亚洲精品在线观看| 88av在线视频| 亚洲美女视频网| 僵尸再翻生在线观看| 成人两性免费视频| 国产亚洲一区二区三区啪| 九一国产精品视频| 国产剧情一区在线| 特级西西人体高清大胆| 色综合天天综合| 亚欧在线观看视频| 欧美激情在线有限公司| 亚洲网站免费| 亚洲精品永久www嫩草| 免费欧美在线| 好吊一区二区三区视频| 亚洲午夜免费福利视频| 国产麻豆91视频| 久久精品中文字幕一区| 黄色日韩网站| 日韩精品另类天天更新| 免费永久网站黄欧美| 日韩精品视频一区二区| 亚洲图片自拍偷拍| www久久久com| 久久6精品影院| 国产精品视频一区视频二区| 一本色道久久99精品综合| 日本伊人色综合网| 狂野欧美性猛交| 欧美视频在线观看一区| 北条麻妃在线| 国产精品一区电影| 日韩视频在线观看| 国内自拍第二页| 亚洲欧美一区二区视频| 91亚洲国产成人精品一区| 中文字幕国产精品| 精品福利在线| 青少年xxxxx性开放hg| 久久99精品国产.久久久久 | 久久一区二区中文字幕| 青青草原国产在线视频| 中文字幕一区二区视频| 91久久精品国产91性色69| 日韩有码片在线观看| 精品成人18| av网站手机在线观看| 本田岬高潮一区二区三区| 日本天堂在线视频| 亚洲国产精久久久久久久| sm捆绑调教国产免费网站在线观看 | 一起草av在线| 成年人精品视频| 国产精品毛片视频| 日韩av一二三四区| 国产清纯白嫩初高生在线观看91 | 91夜夜蜜桃臀一区二区三区| 欧美中文字幕在线观看视频| 99精品桃花视频在线观看| 亚洲欧美综合另类| 一区二区三区高清国产| 成人在线分类| 青草青青在线视频| 国产午夜亚洲精品理论片色戒| 又色又爽又黄无遮挡的免费视频| 久久人体大胆视频| 国偷自产视频一区二区久| 50路60路老熟妇啪啪| 国产精品国产三级国产aⅴ中文 | 成年人看的毛片| 91视频精品在这里| 亚洲天堂aaa| 久久久久久久久久国产| 免费视频国产一区| www,av在线| 岛国av一区二区三区| 午夜在线视频播放| 精品无人乱码一区二区三区的优势 | 欧美在线视频播放| 国产精品精品国产一区二区| 无码国产69精品久久久久网站| 在线看不卡av| 欧美色图天堂| 亚洲一区二区自拍偷拍| 成人av手机在线观看| 中文字幕无码乱码人妻日韩精品| 美女国内精品自产拍在线播放| 丝袜久久网站| 红桃视频一区二区三区免费| 日韩人在线观看| 性欧美ⅴideo另类hd| 日韩欧美视频一区二区| www.一区二区| www.天堂在线| 国产日韩欧美中文在线播放| 国产精品久久国产愉拍|