溫馨提示×
您好，登錄后才能下訂單哦！
點擊 登錄注冊 即表示同意《億速云用戶服務條款》
您好，登錄后才能下訂單哦！
Spark設置setMaster=local，不提交集群，在本地啟用多線程模擬運行
object SparkUtil {
private val logger = Logger.getLogger(getClass.getName, true)
def getSparkContext(appName:String, local:Boolean=false, threadNum:Int=4):SparkContext = {
val conf = new SparkConf().setAppName(appName)
if(local)
conf.setMaster(s"""local[$threadNum]""")
val sc = new SparkContext(conf)
return sc
}
}
SparkUtil.getSparkContext("testApp",true) // 本地啟4個線程模擬運行本地模式運行可以測試主要的程序邏輯，并不能一定在集群中正確運行.
免責聲明：本站發布的內容（圖片、視頻和文字）以原創、轉載和分享為主，文章觀點不代表本網站立場，如果涉及侵權請聯系站長郵箱：is@yisu.com進行舉報，并提供相關證據，一經查實，將立刻刪除涉嫌侵權內容。
