您好,登錄后才能下訂單哦!
本篇內容介紹了“Hadoop Balancer平衡速度怎么實現”的有關知識,在實際案例的操作過程中,不少人都會遇到這樣的困境,接下來就讓小編帶領大家學習一下如何處理這些情況吧!希望大家仔細閱讀,能夠學有所成!
1. dfs.datanode.max.transfer.threads
修改dfs.datanode.max.transfer.threads=4096 (如果運行HBase的話建議為16384),
指定用于在DataNode間傳輸block數據的最大線程數,老版本的對應參數為dfs.datanode.max.xcievers。
2. dfs.datanode.balance.bandwidthPerSec
修改dfs.datanode.balance.bandwidthPerSec=52428800,指定DataNode用于balancer的帶寬為50MB,
這個根據情況而定,如果交換機性能好點的,完全可以設定100MB,單位是Byte,
如果機器的網卡和交換機的帶寬有限,可以適當降低該速度,比如10MB,默認是1048576(1MB)。
hdfs dfsadmin-setBalancerBandwidth 52428800
3. dfs.balancer.block-move.timeout
以毫秒為單位移動的最大時間。如果這個設置大于0,平衡器將停止等待一個塊移動完成。在典型的集群中,3到5分鐘的超時是合理的。
如果超時發生在很大比例的塊移動中,則需要增加。它也可能是太多的工作被分派,并且許多節點的帶寬總是超過帶寬限制。
在這種情況下,可能需要調整其他平衡器參數。默認情況下,它是禁用的。
4. dfs.balancer.max-no-move-interval
如果這個指定的時間量已經過去,并且沒有一個塊被移出源DataNode,那么將會有更多的努力在當前的平衡迭代中移出這個DataNode的塊。
“Hadoop Balancer平衡速度怎么實現”的內容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業相關的知識可以關注億速云網站,小編將為大家輸出更多高質量的實用文章!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。