您好,登錄后才能下訂單哦!
這篇文章主要講解了“spark 部署模式是什么”,文中的講解內容簡單清晰,易于學習與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學習“spark 部署模式是什么”吧!
spark有local模式,偽分布式,standalone,spakr on yarn,spark on messos。
local模式多用于開發測試
偽分布式是極少使用的模式,它是在一個節點上模擬分布式
spakr on messos在國內很少使用
standalone模式適合使用在數據規模不大,集群所部署大數據計算框架單一,整個集群計算資源可以全部提供給spark計算,無需考慮資源分配的問題
spark on yarn在國內使用比較廣泛。 它具有以下優勢:1. 避免搭建spark集群。spark只需要部署在一個節點上,通過該節點,將應用提交給yarn集群處理。在擁有yarn集群的情況下,無需搭建spark集群就可以方便的運行spark應用 2. 統一資源管理和調度。yarn是包括mr, spark在內的多種大數據計算引擎的資源管理和調度的實現方式,yarn具有資源隔離機制,使得各種大數據計算任務可以穩定的運行在集群中,而不會產生資源競爭問題。3. 資源彈性管理。yarn通過隊列的方式,根據不同類型應用程序的資源壓力,彈性調度資源的使用量
感謝各位的閱讀,以上就是“spark 部署模式是什么”的內容了,經過本文的學習后,相信大家對spark 部署模式是什么這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是億速云,小編將為大家推送更多相關知識點的文章,歡迎關注!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。