Hadoop和pig怎么安裝

本篇內容主要講解“Hadoop和pig怎么安裝”，感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷，實用性強。下面就讓小編來帶大家學習“Hadoop和pig怎么安裝”吧!

我們用MapReduce進行數據分析。當業務比較復雜的時候，使用MapReduce將會是一個很復雜的事情，比如你需要對數據進行很多預處理或轉換，以便能夠適應MapReduce的處理模式,另一方面，編寫MapReduce程序，發布及運行作業都將是一個比較耗時的事情。
Pig的出現很好的彌補了這一不足。Pig能夠讓你專心于數據及業務本身，而不是糾結于數據的格式轉換以及MapReduce程序的編寫。本質是上來說，當你使用Pig進行處理時，Pig本身會在后臺生成一系列的MapReduce操作來執行任務，但是這個過程對用戶來說是透明的。
Pig的安裝
Pig作為客戶端程序運行，即使你準備在Hadoop集群上使用Pig，你也不需要在集群上做任何安裝。Pig從本地提交作業，并和Hadoop進行交互。
1）下載Pig
前往http://mirror.bit.edu.cn/apache/pig/ 下載合適的版本，比如 pig-0.17.0.tar.gz
2）解壓文件到合適的目錄
[root@hadp-node1 hadoop]# tar -zxvf pig-0.17.0.tar.gz -C /usr/local/hadoop/
3）設置環境變量
export PIG_HOME=/usr/local/hadoop/pig-0.17.0
export PIG_CLASSPATH=$HADOOP_HOME/etc/hadoop/ #顯式設置HADOOP_HOME變量，確保庫和你實際使用的HADOOP版本兼容

export PATH=$PATH:$PIG_HOME/bin
如果沒有設置JAVA環境變量，此時還需要設置JAVA_HOME，比如：
export JAVA_HOME=/usr/local/jdk1.7.0_51
說明：
PIG_CLASSPATH變量 是PIG配置MapReduce模式，讓Pig軟件找到Hadoop集群，這里是告訴pig軟件hadoop的配置文件在哪里，通過一系列配置文件core_site.xml hdfs-site.xml mapred-site.xml 可以找到關鍵參數NameNode 和 JobTracker 的位置以及端口信息，有了這些信息就可以對整個集群進行控制了。

4）驗證
執行以下命令，查看Pig是否可用

到此，相信大家對“Hadoop和pig怎么安裝”有了更深的了解，不妨來實際操作一番吧！這里是億速云網站，更多相關內容可以進入相關頻道進行查詢，關注我們，繼續學習！