您好,登錄后才能下訂單哦!
這篇文章主要講解了“怎么使用Spark的cache機制觀察效率的提升”,文中的講解內容簡單清晰,易于學習與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學習“怎么使用Spark的cache機制觀察效率的提升”吧!
基于上面的內容,我們在執行一下以下語句:
發現同樣計算結果是15.
此時我們在進入Web控制臺:
發現控制臺中清晰展示我們執行了兩次“count”操作。
現在我們把“sparks”這個變量執行一下“cache”操作:
此時在執行count操作,查看Web控制臺:
此時發現我們前后執行的三次count操作耗時分別是0.7s、0.3s、0.5s。
此時我們 第四次執行count操作,看一下Web控制臺的效果:
控制臺上清晰的第四次操作僅僅花費了17ms,比前三次的操作速度大約快了30倍的樣子。這就是緩存帶來的巨大速度提升,而基于緩存是Spark的計算的核心之一!
Step 1:目前世界上Spark首選的InteIIiJ IDE開發工具是IDEA,我們下載InteIIiJ IDEA:
這里下載是最新版本Version 13.1.4:
關于版本的選擇,官方給出了如下選擇依據:
我們在這里選擇Linux系統下的”Community Edition FREE”這個版本,這能完全滿足我們任意復雜程度的Scala開發需求。
家林下載完成后保存在本地的如下位置:
Step 2:安裝IDEA并配置IDEA系統環境變量
創建“/usr/local/idea”目錄:
把我們下載的idea壓縮包解壓到該目錄下:
安裝完成后,為了方便使用其bin目錄下的命令,我們把它配置在“~/.bashrc”:
感謝各位的閱讀,以上就是“怎么使用Spark的cache機制觀察效率的提升”的內容了,經過本文的學習后,相信大家對怎么使用Spark的cache機制觀察效率的提升這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是億速云,小編將為大家推送更多相關知識點的文章,歡迎關注!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。