您好,登錄后才能下訂單哦!
這篇文章主要介紹“ hdfs命令行和客戶端的區別是什么”,在日常操作中,相信很多人在 hdfs命令行和客戶端的區別是什么問題上存在疑惑,小編查閱了各式資料,整理出簡單好用的操作方法,希望對大家解答” hdfs命令行和客戶端的區別是什么”的疑惑有所幫助!接下來,請跟著小編一起來學習吧!
一直都沒有發現,原理hdfs的命令行和客戶端api的使用還是有很大差別的
現象:
將dfs.block.size設置成128M
現有28G的數據,理論上講map的總數應該是224個,但是map數量卻翻倍成448個
一直都找不出原因,使用hdfs命令行查看需要進行mapreduce的文件的block大小
然后通過hdfs fs -put 命令放進去的文件block大小就是128M
最后猜測應該是客戶端API沒有讀到在構造Configuration對象時沒有讀到服務器上的*-site.xml導致的,將服務器上的*-site.xml放到客戶端的根目錄下實驗了一下,果然OK了
到此,關于“ hdfs命令行和客戶端的區別是什么”的學習就結束了,希望能夠解決大家的疑惑。理論與實踐的搭配能更好的幫助大家學習,快去試試吧!若想繼續學習更多相關知識,請繼續關注億速云網站,小編會繼續努力為大家帶來更多實用的文章!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。