您好,登錄后才能下訂單哦!
這篇文章主要講解了“hadoop2.x HA下DFSClient初始化流程是什么”,文中的講解內容簡單清晰,易于學習與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學習“hadoop2.x HA下DFSClient初始化流程是什么”吧!
Hadoop2.X NameNode加入了autofiledover機制,對于采用了HA的namenode,在HDFS Client訪問的時候,是如何自動識別active的NN,又是在active NN 宕機的時候,自動切換到新的NN呢。
1.DFSClient的初始化:
主要涉及的類有以下幾個:NameNodeProxies、RetryProxy、RetryInvocationHandler、ConfiguredFailoverProxyProvider。
NameNodeProxies | 與NN通訊的對象的創建提供類 |
RetryProxy | RetryProxy的工廠方法 |
RetryInvocationHandler | 連接異常代理的方法實現 |
ConfiguredFailoverProxyProvider | 獲取可用NN的類 |
具體代碼實現相對比較簡單,只是邏輯稍微復雜。
2.在Active NN宕機的時候,如何做到自動切換。
可以看到對于連接異常的處理實現代碼:
if (action.action == RetryAction.RetryDecision.FAILOVER_AND_RETRY) {//繼續選擇可用的NN節點 // Make sure that concurrent failed method invocations only cause a // single actual fail over. synchronized (proxyProvider) { if (invocationAttemptFailoverCount == proxyProviderFailoverCount) { proxyProvider.performFailover(currentProxy.proxy); //該方法會重新獲取下一個可用的NN proxyProviderFailoverCount++; } else { LOG.warn("A failover has occurred since the start of this method" + " invocation attempt."); } currentProxy = proxyProvider.getProxy(); //返回當前可用的NN } invocationFailoverCount++; }
performFailover的實現:
@Override public synchronized void performFailover(T currentProxy) { currentProxyIndex = (currentProxyIndex + 1) % proxies.size(); }
其實對于獲取可用的NN,就是將所有的NN節點方法到List中,然后從下標0開始獲取NN,如果有異常Index++,繼續獲取,直到可用。
感謝各位的閱讀,以上就是“hadoop2.x HA下DFSClient初始化流程是什么”的內容了,經過本文的學習后,相信大家對hadoop2.x HA下DFSClient初始化流程是什么這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是億速云,小編將為大家推送更多相關知識點的文章,歡迎關注!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。