您好,登錄后才能下訂單哦!
本篇內容主要講解“MapReduce工作機制相關知識點有哪些”,感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷,實用性強。下面就讓小編來帶大家學習“MapReduce工作機制相關知識點有哪些”吧!
可以只用一行代碼來運行一個MapReduce作業:
JobClient.runJob(conf)。
1、早期版本的Hadoop使用FIFO調度算法來運行作業
早期版本的Hadoop使用一種非常簡單的方法來調度用戶的作業:
按照作業提交的順序,使用FIFO(先進先出)調度算法來運行作業。
2、隨后,通過設置mapred.job.priority或JobClient的setJobPriority()方法來設置優先級
3、Hadoop的調度器種類
在Hadoop中,MapReduce的調度器可以選擇。
1)、默認的調度器是原始的基于隊列的FIFO調度器。
2)、Fair Scheduler 公平調度器
3)、Capacity Scheduler
JobClient.runJob(conf);
1)、客戶端:提交MapReduce作業。
2)、jobtracker:協調作業的運行。
jobtracker是一個Java應用程序,它的主類是JobTracker。
3)、tasktracker:運行作業劃分后的任務。
tasktracker是一個Java應用程序,它的主類是TaskTracker。
4)、分布式文件系統(一般為HDFS)
用來在其他實體間共享作業文件。
到此,相信大家對“MapReduce工作機制相關知識點有哪些”有了更深的了解,不妨來實際操作一番吧!這里是億速云網站,更多相關內容可以進入相關頻道進行查詢,關注我們,繼續學習!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。