溫馨提示×
您好，登錄后才能下訂單哦！
點擊 登錄注冊 即表示同意《億速云用戶服務條款》
您好，登錄后才能下訂單哦！
本篇內容介紹了“hadoop下怎么計算MapReduce過程中需要的緩沖區大小”的有關知識，在實際案例的操作過程中，不少人都會遇到這樣的困境，接下來就讓小編帶領大家學習一下如何處理這些情況吧！希望大家仔細閱讀，能夠學有所成！
在Map階段，map函數會產生中間數據輸出并保存在內存緩沖區中（緩沖區大小由io.sort.mb參數指定）。一旦達到占用閾值（默認是80%），緩沖區的內容就會寫入本地磁盤，這也就是所謂的溢寫（spill）。
緩沖區內會存儲溢寫記錄的元數據（每條數據元數據長度為16字節）和溢寫記錄。
分配給元數據的空間由參數io.sort.record.percent指定，默認5%，其余分配給溢寫記錄使用。
要確定緩沖區所需的內存空間，需要計算溢寫記錄和元數據分別所占空間大小。
具體計算方法如下：
Record length = Map output bytes / Map output records = 68022178 / 472293 = 144bytes
Spilled Records Size = Spilled Records * Record length = 144 * 472293 = 68022178 = 64M
Metadata Size = Metadata length * Spilled Records = 16 * 472293 = 7556688 = 7M
io.sort.record.percent = 16 / (16 + 144) = 0.1
io.sort.mb = Metadata size + Spilled Records size = 64 + 7 = 71M
“hadoop下怎么計算MapReduce過程中需要的緩沖區大小”的內容就介紹到這里了，感謝大家的閱讀。如果想了解更多行業相關的知識可以關注億速云網站，小編將為大家輸出更多高質量的實用文章！
免責聲明：本站發布的內容（圖片、視頻和文字）以原創、轉載和分享為主，文章觀點不代表本網站立場，如果涉及侵權請聯系站長郵箱：is@yisu.com進行舉報，并提供相關證據，一經查實，將立刻刪除涉嫌侵權內容。
