hadoop環境安裝配置介紹與步驟

在上一篇的分享文章中我是給大家分享了運行部署hadoop的一些安裝準備工作，這篇接上一篇繼續為大家分享一些個人的學習經驗總結。我學習用的是大快發行版DKHadoop，所以所有的經驗分享都是以DKHadoop為基礎，這里要先說明一下。個人覺得DKHadoop對新手還是算是很友好的了，新手朋友們可以大快搜索網站下載一個三節點的dkhadoop玩一下看看。
閑話到此結束，本篇重點整理的是服務器操作系統的配置問題，寫的可能會有點長，需要一點點耐心看的哦！
1.修改權限
步驟：在準備工作中拷貝安裝包DKHPlantform.zip到主節點/root/目錄后，解壓并修改文件權限（文件所有者可讀可寫可執行，與文件所有者屬于一個用戶組的其他用戶可讀可執行，其他用戶組可讀可執行）。
命令：
cd /root/
unzip DKHPlantform.zip
chmod -R 755 DKHPlantform
2. 搭建hadoop集群設置SSH免密登錄
步驟：
修改主機名 vi /etc/sysconfig/network reboot
（1）修改本機hosts文件，寫入對應關系
命令：
vi /etc/hosts
通過按鍵盤上的insert或是I鍵進入編輯模式，編輯完成后按一下Esc鍵然后按一下按Shift+：鍵，輸入wq 后回車就可以保存。輸入q！后回車則是放棄保存并退出.
進入編輯模式后，按照規則寫入主機與ip的對應關系（主機名稱dk41是自己命名的，如下圖）例：
192.168.1.41 dk41
192.168.1.42 dk42
192.168.1.43 dk43

編輯完后，保存退出。把對應關系拷到其他兩臺機器上。
命令：
scp??-r??/etc/hosts??192.168.1.42:/etc
scp??-r??/etc/hosts??192.168.1.43:/etc
（2）執行集群之間免密前的準備工作
a)執行sshpass.sh的腳本的時候會去讀sshhosts和sshslaves這兩個文件，替換sshpass.sh中的master和slave文件。
修改文件sshhosts，輸入全部機器的主機名，每行一個主機名（如下圖）
命令：
vi /root/DKHPlantform/autossh/sshhosts
通過按鍵盤上的insert或是I鍵進入編輯模式，編輯完成后按一下Esc鍵然后按一下按Shift+：鍵，輸入wq，后回車就可以保存。輸入q！后回車則是放棄保存并退出.

修改文件sshslaves，寫入除主機名之外的所有機器名（如下圖）
命令：
vi /root/DKHPlantform/autossh/sshslaves
通過按鍵盤上的insert或是I鍵進入編輯模式，編輯完成后按一下Esc鍵然后按一下按Shift+：鍵，輸入wq，后回車就可以保存。輸入q！后回車則是放棄保存并退出.

b）執行insExpect.sh，系統會裝兩個rpm包，在執行sshpass.sh的過程中無需再輸密碼和yes，腳本自動繼續執行。
命令：
cd /root/DKHPlantform/autossh
./insExpect.sh
按照提示多次輸入yes和密碼(如下圖)

c)執行changeMaster.sh腳本為了清空/root/.ssh目錄下的所有文件(在/root/DKHPlantform/autossh目錄下)，避免在執行sshpass.sh腳本時產生的新密鑰時與舊的密鑰發生沖突。
命令：
./changeMaster.sh
按照提示輸入（如下圖）

（3）執行集群免密（SSH）
a)執行SSH:
命令：
cd /root/
./sshpass.sh 密碼
123456為集群密碼，根據自己實際情況輸入。

b)防止訪問服務器時某些服務被攔截,需關閉防火墻。
命令：
cd /root/DKHPlantform/autossh
./offIptables.sh

3.安裝雙機熱備份的MySQL
目的：存放Hive的元數據
步驟：
（1）從主節點分發mysql安裝目錄到第二節點
命令：
scp?-r?/root/DKHPlantform/mysqlInst/?192.168.1.42:/root/
（2）主節點執行：
命令：
cd /root/DKHPlantform/mysqlInst/
./mysql.sh 1
ssh前往第二臺機器（從節點）并執行:
命令：
cd /root/mysqlInst/
./mysql.sh 2
（3）執行成功之后執行熱備份（兩臺機器上都要執行，兩個ip互換,41上寫42,42上寫41,密碼是Mysql的密碼為：123456。平臺內已經設定好，請勿修改）：
命令：
source /etc/profile
./sync.sh 192.168.1.xxx(另一臺mysql地址) root 123456

4.創建數據庫
步驟：
（1）導入MySQL數據表，只在主節點執行：
命令：
mysql -uroot -p123456 < { 此處為sql文件,主目錄下文件： dkh.sql}
如：mysql -uroot -p123456 </root/DKHPlantform/dkh.sql
（2）執行完后查看一下兩臺mysql的數據表是否存在,從節點查看執行：
命令：
mysql??-uroot??-p123456
show?databases;