hadoop安裝配置會遇到什么問題

這篇文章主要為大家展示了“hadoop安裝配置會遇到什么問題”，內容簡而易懂，條理清晰，希望能夠幫助大家解決疑惑，下面讓小編帶領大家一起研究并學習一下“hadoop安裝配置會遇到什么問題”這篇文章吧。

使用環境：

ubuntu14.04  64位系統

java7

hadoop 2.4.1

幾個注意點

1、下載hadoop官網鏈接不可用，所以在開源中國下載

2、在下列場合務必使用同一個linux帳號權限下操作，我由于習慣與sudo創建配置文件和進行操作，出現一些問題

• 格式化hdfs

• ssh無密碼登錄帳號

• 新建編輯配置文件

• 啟動hadoop等
  

3、hadoop要小心版本差異所帶來的問題，選擇適當的教材，比如hadoop1.x和2.x相比，2.x沒有JobTracker和TaskTracker

幾個問題：

問題1、localhost: Error: JAVA_HOME is not set and could not be found.

    修改hadoop目錄下/hadoop/etc/hadoop/hadoop-env.sh中的 $JAVA_HOME為絕對路徑

# The java implementation to use.
#export JAVA_HOME=${JAVA_HOME}
export JAVA_HOME=/usr/lib/jvm/java7

問題2、出現本地庫無法導入，據說是64位機器會出現

    錯誤如下：

This script is Deprecated. Instead use stop-dfs.sh and stop-yarn.sh  
14/08/10 07:07:57 WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable  
Stopping namenodes on [Java HotSpot(TM) 64-Bit Server VM warning: You have loaded library /home/hadoop/hadoop-2.2.0/lib/native/libhadoop.so.1.0.0 which might have disabled stack guard. The VM will try to fix the stack guard now.  
It's highly recommended that you fix the library with 'execstack -c <libfile>', or link it with '-z noexecstack'.  
cluster1]  
sed: -e expression #1, char 6: unknown option to `s'  
-c: Unknown cipher type 'cd'  
^Ccluster1: stopping namenode  
cluster1: stopping datanode  
VM: ssh: Could not resolve hostname VM: Name or service not known  
stack: ssh: Could not resolve hostname stack: Name or service not known

   解決辦法，在hadoop-env.sh修改如下變量，我直接是加在文件末尾

export HADOOP_HOME=/data/server/hadoop
export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native
export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"

問題3、sbin/start-all.sh啟動時只有jps只有一個NodeManager問題？

nob@hadoop0:/data/server/hadoop/sbin$ jps
9922 NodeManager
10236 Jps

 原因：我格式化hdfs的時候使用了超級管理員sudo命令，啟動的時候用戶權限不一致

問題4、sbin/start-all.sh 啟動后使用jps查看沒有JobTracker和TaskTracker？

nob@hadoop0:/data/server/hadoop/sbin$ jps
9444 DataNode
9922 NodeManager
9633 SecondaryNameNode
9790 ResourceManager
9291 NameNode
10236 Jps

   原因是： hadoop-2.x版本中不存在JobTracker和TaskTracker，可以參考博客 http://blog.csdn.net/skywalker_only/article/details/37905463，啟動NameNode和DataNode的命令為start-dfs.sh，啟動yarn的命令為start-yarn.sh。

以上是“hadoop安裝配置會遇到什么問題”這篇文章的所有內容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內容對大家有所幫助，如果還想學習更多知識，歡迎關注億速云行業資訊頻道！