大數據領域三個大的技術方向

大數據領域三個大的技術方向：

1、Hadoop大數據開發方向

2、數據挖掘、數據分析&機器學習方向

3、大數據運維&云計算方向

大數據學習什么

在這里還是要推薦下我自己建的大數據學習交流群:529867072，群里都是學大數據開發的，如果你正在學習大數據 ，小編歡迎你加入,大家都是軟件開發黨，不定期分享干貨（只有大數據軟件開發相關的），包括我自己整理的一份最新的大數據進階資料和高級開發教程，歡迎進階中和進想深入大數據的小伙伴加入。

Python：Python 的排名從去年開始就借助人工智能持續上升，現在它已經成為了語言排行第一名。

語法簡捷而清晰，對底層做了很好的封裝，是一種很容易上手的高級語言。

大數據和數據科學領域，任何集群架構軟件都支持Python，Python也有很豐富的數據科學庫，所以Python不得不學。

Linux：更好的理解hadoop、hive、hbase、spark等大數據軟件的運行環境和網絡環境配置，學會shell就能看懂腳本這樣能更容易理解和配置大數據集群。

Hadoop：Hadoop里面包括幾個組件HDFS、MapReduce和YARN，HDFS是存儲數據的地方就像我們電腦的硬盤一樣文件都存儲在這個上面，MapReduce是對數據進行處理計算的，YARN是體現Hadoop平臺概念的重要組件有了它大數據生態體系的其它軟件就能在hadoop上運行了，這樣就能更好的利用HDFS大存儲的優勢和節省更多的資源比如我們就不用再單獨建一個spark的集群了，讓它直接跑在現有的hadoop yarn上面就可以了。

Zookeeper：ZooKeeper是一種為分布式應用所設計的高可用、高性能且一致的開源協調服務，它提供了一項基本服務：分布式鎖服務。由于ZooKeeper的開源特性，后來我們的開發者在分布式鎖的基礎上，摸索了出了其他的使用方法：配置維護、組服務、分布式消息隊列、分布式通知/協調等。

Sqoop：這個是用于把Mysql里的數據導入到Hadoop里的。當然你也可以不用這個，直接把Mysql數據表導出成文件再放到HDFS上也是一樣的，當然生產環境中使用要注意Mysql的壓力。

Hive：對于會SQL語法的來說就是神器，它能讓你處理大數據變的很簡單，不會再費勁的編寫MapReduce程序。

Hbase：這是Hadoop生態體系中的NOSQL數據庫，他的數據是按照key和value的形式存儲的并且key是唯一的，所以它能用來做數據的排重，它與MYSQL相比能存儲的數據量大很多。所以他常被用于大數據處理完成之后的存儲目的地。

Kafka：Kafka的整體架構非常簡單，是顯式分布式架構，producer、broker（kafka）和consumer都可以有多個。Producer，consumer實現Kafka注冊的接口，數據從producer發送到broker，broker承擔一個中間緩存和分發的作用。broker分發注冊到系統中的consumer。broker的作用類似于緩存，即活躍的數據和離線處理系統之間的緩存。客戶端和服務器端的通信，是基于簡單，高性能，且與編程語言無關的TCP協議。幾個基本概念。

Spark：它是用來彌補基于MapReduce處理數據速度上的缺點，它的特點是把數據裝載到內存中計算而不是去讀慢的要死進化還特別慢的硬盤。特別適合做迭代運算，所以算法流們特別稀飯它。它是用scala編寫的。Java語言或者Scala都可以操作它，因為它們都是用JVM的。

機器學習(Machine Learning, ML)：是一門多領域交叉學科，涉及概率論、統計學、逼近論、凸分析、算法復雜度理論等多門學科。它是人工智能的核心，是使計算機具有智能的根本途徑，其應用遍及人工智能的各個領域，它主要使用歸納、綜合而不是演繹。機器學習的算法基本比較固定了，學習起來相對容易。

深度學習(Deep Learning, DL)：深度學習的概念源于人工神經網絡的研究，最近幾年發展迅猛。深度學習應用的實例有AlphaGo、人臉識別、圖像檢測等。是國內外稀缺人才，但是深度學習相對比較難，算法更新也比較快，需要跟隨有經驗的老師學習。