91超碰碰碰碰久久久久久综合_超碰av人澡人澡人澡人澡人掠_国产黄大片在线观看画质优化_txt小说免费全本

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

Sqoop抽數到Hive表異常怎么辦

發布時間:2021-12-10 09:35:55 來源:億速云 閱讀:237 作者:小新 欄目:大數據

小編給大家分享一下Sqoop抽數到Hive表異常怎么辦,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!

1.問題描述


使用Sqoop抽取MySQL數據到Hive表時,抽取語句正常執行但數據沒有寫入Hive的表中,執行的Sqoop抽數腳本如下:

export HADOOP_USER_NAME=hive
sqoop import \
--connect "jdbc:mysql://cdh02.fayson.com:3306/cm" \
--username cm \
--password password \
--table HOSTS \
--fields-terminated-by ',' \
--target-dir /user/hive/warehouse/hive_hosts \
--delete-target-dir \
--hive-import \
--hive-overwrite \
--hive-table hive_hosts \
--m 1 \
--input-null-string '\\N' \
--input-null-non-string '\\N'

(可左右滑動)

在命令行執行上述Sqoop腳本,顯示作業正常執行

Sqoop抽數到Hive表異常怎么辦

執行結果顯示文件數和數據大小均為0,登錄Hive查詢生成的hive_hosts表

Sqoop抽數到Hive表異常怎么辦

2.異常處理及分析


1.在Sqoop抽數的腳本中存在target-dir參數,指向的HDFS數據目錄,為hive_hosts表的倉庫目錄,將target-dir參數去掉執行

Sqoop抽數到Hive表異常怎么辦

腳本執行成功

Sqoop抽數到Hive表異常怎么辦

如上腳本的日志可以看到,向HDFS寫入一個數據文件,文件大小481Byte。

2.使用hive命令查看hive_hosts表,數據已正常的抽取到hive_hosts表中

Sqoop抽數到Hive表異常怎么辦

target-dir參數說明及影響:

在Sqoop抽數腳本中,指定了target-dir目錄Sqoop抽取的數據會寫到target-dir指定的目錄,在Sqoop完成數據抽取后會將target-dir目錄的數據load到Hive表對應的倉庫目錄并刪除target-dir目錄及數據。因為在上述異常中我們指定的target-dir目錄與Hive表的倉庫目錄一致,所以會導致Sqoop抽數成功,但對應的Hive表中無數據問題。

Sqoop抽數到Hive表異常怎么辦

Sqoop腳本中如果不指定target-dir目錄時,默認會將抽取的數據寫入到/user/{username}/{db_tablename}目錄下。

以上是“Sqoop抽數到Hive表異常怎么辦”這篇文章的所有內容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內容對大家有所幫助,如果還想學習更多知識,歡迎關注億速云行業資訊頻道!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

芦山县| 鹤峰县| 遵义市| 淳安县| 邓州市| 美姑县| 浦北县| 尤溪县| 静宁县| 黄冈市| 丰原市| 聊城市| 房山区| 东平县| 潼南县| 陕西省| 读书| 徐汇区| 大理市| 海兴县| 那坡县| 盐源县| 项城市| 赣州市| 乐安县| 漠河县| 巨鹿县| 建瓯市| 磴口县| 石景山区| 左权县| 清涧县| 灵川县| 竹山县| 平陆县| 仁怀市| 鄂伦春自治旗| 南城县| 平塘县| 龙井市| 牙克石市|