您好,登錄后才能下訂單哦!
這篇文章主要介紹“centos7快速配置hive的過程”,在日常操作中,相信很多人在centos7快速配置hive的過程問題上存在疑惑,小編查閱了各式資料,整理出簡單好用的操作方法,希望對大家解答”centos7快速配置hive的過程”的疑惑有所幫助!接下來,請跟著小編一起來學習吧!
### hive 配置部分
目錄規劃
/usr/lib/jvm/jdk1.8.0_65
/usr/hadoop
/usr/hive
/etc/profile
......
export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_131
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH
export HADOOP_HOME=/usr/hadoop
export PATH=${HADOOP_HOME}/bin:${HADOOP_HOME}/sbin:$PATH
export HIVE_HOME=/usr/hive
export PATH=$HIVE_HOME/bin:$PATH
export LD_LIBRARY_PATH=$JAVA_HOME/jre/lib/amd64/server
如果沒有這個,會OGG-15050 Error loading Java VM runtime library: (2 No such file or directory)
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$JAVA_HOME/jre/lib
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$JAVA_HOME/lib
export OGG_HOME=/ogg/oggbd
# export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$ORACLE_HOME/lib
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$OGG_HOME:$OGG_HOME/ggjava
下載解壓
hive 下載地址: http://hive.apache.org/ --> GENERAL --> Downloads
apache-hive-2.3.0-bin.tar.gz
tar -xzf apache-hive-2.3.0-bin.tar.gz
mv apache-hive-2.3.0-bin /usr/hive
chown -R htjs:htjs /usr/hive
進入/usr/hive/conf 復制修改配置文件
配置文件
配置文件1 hive-env.sh
cp hive-env.sh.template hive-env.sh
修改HADOOP_HOME:HADOOP_HOME=/usr/hadoop
如果這里不修改,hive無法初始化元數據,
報錯Error: Syntax error: Encountered "" at line 1, column 64. (state=42X01,code=30000)
配置文件2 hive-site.xml
cp hive-default.xml.template hive-site.xml
cp hive-log4j2.properties.template hive-log4j2.properties
cp hive-exec-log4j2.properties.template hive-exec-log4j2.properties
hive-site.xml 配置文件中mysql相關部分 (這個地方在博客上顯示不全!)
javax.jdo.option.ConnectionURL
jdbc:mysql://localhost:3306/hive?createDatabaseIfNotExist=true
javax.jdo.option.ConnectionDriverName
com.mysql.jdbc.Driver
javax.jdo.option.ConnectionUserName
root
javax.jdo.option.ConnectionPassword
rootroot
hive-site.xml 配置文件中 tmpdir的替換
:%s/${system:java.io.tmpdir}/\/usr\/hive\/tmp/gc
:%s/${system:user.name}/htjs/gc
實際上是將
${system:java.io.tmpdir}/${system:user.name}
替換成
/usr/hive/tmp/htjs
如果這里不替換,會出現hive無法啟動錯誤 URISyntaxException
復制mysql驅動
tar -xzf mysql-connector-java-5.1.42.tar.gz
cd mysql-connector-java-5.1.42
cp mysql-connector-java-5.1.42-bin.jar /usr/hive/lib
chown -R htjs:htjs /usr/hive/lib/mysql*.jar
創建目錄
mkdir /usr/hive/tmp
hdfs dfs -mkdir /tmp
hdfs dfs -mkdir -p /user/hive/warehouse
hdfs dfs -chmod -R +w /tmp
hdfs dfs -chmod -R +w /user/hive
hdfs dfs -ls /user/hive
初始化schema
$ $HIVE_HOME/bin/schematool -dbType mysql -initSchema
運行hive
單機模式
$ hive
hive> CREATE TABLE pokes (foo INT, bar STRING);
hive> CREATE TABLE invites (foo INT, bar STRING) PARTITIONED BY (ds STRING);
服務器模式
$ hiveserver2
or
$ nohup /usr/hive/bin/hiveserver2 &
這時可以通過jdbc客戶端連接這個服務訪問hive,端口默認是10000,
在hive-site.xml 中可以修改 hive.server2.thrift.port 為其他端口,比如8338
使用beeline連接
$ beeline -u jdbc:hive2://node1:10000 -n"htjs"
使用-n"htjs" 選項,是為了避免權限問題。如果/user/hive/warehouse 出現不能寫入的問題,帶上-n
insert into pokes (foo,bar) values (1,'a');
select * from pokes;
hive 配置完畢。
到此,關于“centos7快速配置hive的過程”的學習就結束了,希望能夠解決大家的疑惑。理論與實踐的搭配能更好的幫助大家學習,快去試試吧!若想繼續學習更多相關知識,請繼續關注億速云網站,小編會繼續努力為大家帶來更多實用的文章!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。