您好,登錄后才能下訂單哦!
這篇文章主要介紹“MapReduce的二次排序使用什么參數”,在日常操作中,相信很多人在MapReduce的二次排序使用什么參數問題上存在疑惑,小編查閱了各式資料,整理出簡單好用的操作方法,希望對大家解答”MapReduce的二次排序使用什么參數”的疑惑有所幫助!接下來,請跟著小編一起來學習吧!
關于二次排序主要涉及到這么幾個東西:
在0.20.0 以前使用的是
setOutputkeyComparatorClass
setOutputValueGroupingComparator
在0.20.0以后使用是
job.setPartitionerClass(Partitioner p);
job.setSortComparatorClass(RawComparator c);
job.setGroupingComparatorClass(RawComparator c);
map的最后階段先使用setPartitionerClass進行對應reducer分區,每個分區使用setSortComparatorClass排序
reducer接收到所有map輸出后,使用setSortComparatorClass進行總排序,然后使用setGroupingComparatorClass對數據分組構造value的迭代器。
到此,關于“MapReduce的二次排序使用什么參數”的學習就結束了,希望能夠解決大家的疑惑。理論與實踐的搭配能更好的幫助大家學習,快去試試吧!若想繼續學習更多相關知識,請繼續關注億速云網站,小編會繼續努力為大家帶來更多實用的文章!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。