您好,登錄后才能下訂單哦!
這篇文章給大家分享的是有關spark集群無法分配資源怎么辦的內容。小編覺得挺實用的,因此分享給大家做個參考,一起跟隨小編過來看看吧。
問題1:WARN TaskSchedulerImpl: Initial job has not accepted any resources; check your cluster UI to ensure that workers are registered and have sufficient memory
此時程序會一直loading,running,loading,running…的循環,并持續出現上面的警告。
出現這個錯誤很有可能是你啟動spark的方式有問題。
很多人啟動spark直接用start-all.sh,但是如果你在env配置文件里沒有指定master的ip,這樣啟動就會報上面這個問題。如果沒有配置可以在啟動的時候指定:
在maser上用
./start-master.sh -h “ip地址”
在worker上用
./start-slave.sh spark://"master的ip":7077
其它參數在啟動的時候也可以指定,端口號也可以改動。
感謝各位的閱讀!關于“spark集群無法分配資源怎么辦”這篇文章就分享到這里了,希望以上內容可以對大家有一定的幫助,讓大家可以學到更多知識,如果覺得文章不錯,可以把它分享出去讓更多的人看到吧!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。