近日,據(jù)InfoQ《架構(gòu)師》2月刊內(nèi)容,國際化智能營銷服務(wù)商易點(diǎn)天下(股票代碼:301171)數(shù)倉平臺(tái)建設(shè)已進(jìn)入第四階段,并進(jìn)入全面部署,完善監(jiān)控等集群的自動(dòng)化運(yùn)營階段。
(相關(guān)資料圖)
技術(shù)專家認(rèn)為,數(shù)據(jù)倉庫平臺(tái)建設(shè)的主要價(jià)值,在于更高效解決海量數(shù)據(jù)(603138)存儲(chǔ)、快速查詢,并助力企業(yè)業(yè)務(wù)高效發(fā)展。而易點(diǎn)天下作為一家技術(shù)驅(qū)動(dòng)發(fā)展的企業(yè)國際化智能營銷服務(wù)公司,目前服務(wù)平臺(tái)數(shù)據(jù)覆蓋全球超過238個(gè)國家和地區(qū),應(yīng)用安裝、用戶注冊(cè)、商品銷售等商業(yè)效果轉(zhuǎn)化累計(jì)8億次+,獨(dú)立設(shè)備覆蓋70億+臺(tái),如何更高效有序的存儲(chǔ)、查詢并調(diào)用海量數(shù)據(jù)資源,是其提升自身運(yùn)營投放效率的關(guān)鍵之一。
在《架構(gòu)師》2月刊內(nèi)容中,易點(diǎn)天下對(duì)數(shù)倉進(jìn)行了統(tǒng)一規(guī)劃和建設(shè),以便于更好地輔助業(yè)務(wù)提高數(shù)據(jù)模型的復(fù)用率、提升數(shù)據(jù)查詢效率、控制數(shù)據(jù)成本。
在易點(diǎn)天下最新的數(shù)倉StarRocks的建設(shè)過程中,易點(diǎn)天下首先對(duì)數(shù)據(jù)進(jìn)行了規(guī)范與分層。由于數(shù)據(jù)來自于不同的媒體渠道,易點(diǎn)天下將不同種類的數(shù)據(jù)整合處理,規(guī)范命名和存儲(chǔ),便于統(tǒng)一管理。為了更好地對(duì)數(shù)據(jù)進(jìn)行檢索,在廣度層面,易點(diǎn)天下將數(shù)據(jù)分為數(shù)據(jù)引入層 、明細(xì)數(shù)據(jù)層 、匯總數(shù)據(jù)層、數(shù)據(jù)應(yīng)用層以及維度層等5個(gè)層級(jí),便于業(yè)務(wù)開展時(shí)操作上更加便捷。
為規(guī)范數(shù)據(jù)倉庫處理數(shù)據(jù)的范圍,以及處理數(shù)據(jù)的業(yè)務(wù)類型,在深度層面,易點(diǎn)天下也對(duì)不同業(yè)務(wù)和不同數(shù)據(jù)類型進(jìn)行拆分,在業(yè)務(wù)板塊,分為廣告投放類,創(chuàng)新類, 推廣類, 電商類等;而在類型板塊,則分為收入、花費(fèi)、投放、渠道等不同維度的數(shù)據(jù)。
目前數(shù)據(jù)平臺(tái)以實(shí)時(shí)流和離線處理兩條方式同時(shí)向StarRocks數(shù)據(jù)倉庫中進(jìn)行數(shù)據(jù)load。如下架構(gòu)中易點(diǎn)天下自研了數(shù)據(jù)治理平臺(tái)(DataPlus)用于數(shù)據(jù)監(jiān)控提高數(shù)據(jù)質(zhì)量, 維護(hù)元數(shù)據(jù)血緣等數(shù)據(jù)的拓?fù)浣Y(jié)構(gòu),自動(dòng)化建模。另外易點(diǎn)天下還自研了分布式的跨云調(diào)度系統(tǒng)(EasyJob), 用來系統(tǒng)便捷的處理多云環(huán)境下的數(shù)據(jù)依賴和調(diào)度。
數(shù)據(jù)分析主要流程架構(gòu)
通過元數(shù)據(jù),數(shù)據(jù)血緣體系建立,未來易點(diǎn)天下可以通過讓建模規(guī)范,建模質(zhì)量等規(guī)則自動(dòng)化,形成線上系統(tǒng)的自動(dòng)化建模功能,自動(dòng)化建模生成標(biāo)準(zhǔn)SQL,最終在數(shù)倉(StarRocks)中定時(shí)執(zhí)行生效,便于限制人為建模的不規(guī)范操作,最大程度的優(yōu)化模型和成本。
建模過程和數(shù)據(jù)治理平臺(tái)(DataPlus)中的功能映射
目前易點(diǎn)天下已經(jīng)針對(duì)BI系統(tǒng)開展了StarRocks的數(shù)據(jù)倉庫的建設(shè),后期會(huì)推廣到數(shù)據(jù)平臺(tái)所有項(xiàng)目的數(shù)據(jù)場景中,實(shí)現(xiàn)全部數(shù)據(jù)的秒級(jí)導(dǎo)入延遲,SQL查詢與TP95查詢5秒內(nèi)返回,并通過不斷優(yōu)化模型生成效率,持續(xù)提高數(shù)據(jù)查詢效率。
技術(shù)專家指出,像易點(diǎn)天下這類從事國際化智能營銷業(yè)務(wù),并在技術(shù)側(cè)需要以分布式架構(gòu)全天候處理全球海量數(shù)據(jù)的科技企業(yè),技術(shù)中臺(tái)能力的建設(shè)將成為其自身運(yùn)營效率與服務(wù)質(zhì)量提升的關(guān)鍵。數(shù)字智能營銷行業(yè),已步入產(chǎn)品與技術(shù)精細(xì)化運(yùn)營的競爭階段。
【廣告】
(免責(zé)聲明:此文內(nèi)容為廣告,相關(guān)素材由廣告主提供,廣告主對(duì)本廣告內(nèi)容的真實(shí)性負(fù)責(zé)。本網(wǎng)發(fā)布目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé),請(qǐng)自行核實(shí)相關(guān)內(nèi)容。廣告內(nèi)容僅供讀者參考。)
(責(zé)任編輯:董萍萍 )關(guān)鍵詞: