如何測試Hadoop的hdfs的問題

小編給大家分享一下如何測試Hadoop的hdfs的問題，希望大家閱讀完這篇文章之后都有所收獲，下面讓我們一起去探討吧！

在測試hadoop-2.4.1版本的hdfs時，總是報錯：

Unable to load native-hadoop library for your platform

HADOOP的本地庫（NATIVE LIBRARIES）介紹

Hadoop是使用Java語言開發的，但是有一些需求和操作并不適合使用java，所以就引入了本地庫（Native Libraries）的概念，通過本地庫，Hadoop可以更加高效地執行某一些操作。

目前在Hadoop中，本地庫應用在文件的壓縮上面：

在使用這兩種壓縮方式的時候，Hadoop默認會從$HADOOP_HOME/lib/native/Linux-*目錄中加載本地庫。

如果加載成功，輸出為：

DEBUG util.NativeCodeLoader - Trying to load the custom-built native-hadoop library... 
INFO util.NativeCodeLoader - Loaded the native-hadoop library

如果加載失敗，輸出為：

INFO util.NativeCodeLoader - Unable to load native-hadoop library for your platform... using builtin-java classes where applicable

在Hadoop的配置文件core-site.xml中可以設置是否使用本地庫：

<property>
  <name>hadoop.native.lib</name>
  <value>true</value>
  <description>Should native hadoop libraries, if present, be used.</description>
</property>

Hadoop默認的配置為啟用本地庫。

另外，可以在環境變量中設置使用本地庫的位置：

export JAVA_LIBRARY_PATH=/path/to/hadoop-native-libs

有的時候也會發現Hadoop自帶的本地庫無法使用，這種情況下就需要自己去編譯本地庫了。在$HADOOP_HOME目錄下，使用如下命令即可：

ant compile-native

編譯完成后，可以在$HADOOP_HOME/build/native目錄下找到相應的文件，然后指定文件的路徑或者移動編譯好的文件到默認目錄下即可。

看完了這篇文章，相信你對“如何測試Hadoop的hdfs的問題”有了一定的了解，如果想了解更多相關知識，歡迎關注億速云行業資訊頻道，感謝各位的閱讀！