您好,登錄后才能下訂單哦!
本篇內容介紹了“Hive數倉開發的基本流程”的有關知識,在實際案例的操作過程中,不少人都會遇到這樣的困境,接下來就讓小編帶領大家學習一下如何處理這些情況吧!希望大家仔細閱讀,能夠學有所成!
1.從業務系統獲取數據
Sqoop 導入數據庫的數據:spoop 可以在 Hive 與傳統的數據庫間進行數據的傳遞,可以將一個關系型數據庫中的數據導進到 Hadoop 的HDFS中,也可以將 HDFS 的數據導進到關系型數據庫中。
Flume 采集文本數據:Flume 可以將各類型的文件進行采集,存放入 hdfs中。
Ftp 文件服務器:從文件服務器上下載分析所需的源數據(增量數據、全量數據)。
2.數據存儲
數據倉庫分層 ods 層、dw 層、da 層:
源數據層 ODS :直接引用外圍的數據 沒有統一格式化的 不會直接應用使用不利于分析。
數據倉庫層 DW :來自于 ODS 要經過 ETL 的過程 格式統一 數據規整 干凈清潔。
數據應用層 DA :要去用 DW 層數據真正的數據使用者。
數據集市:也叫數據市場,數據集市就是滿足特定的部門或者用戶的需求,按照多維的方式進行存儲,包括定義維度、需要計算的指標、維度的層次等,生成面向決策分析需求的數據立方體。
3.配置調度系統
4.導出數據&展示
“Hive數倉開發的基本流程”的內容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業相關的知識可以關注億速云網站,小編將為大家輸出更多高質量的實用文章!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。