91超碰碰碰碰久久久久久综合_超碰av人澡人澡人澡人澡人掠_国产黄大片在线观看画质优化_txt小说免费全本

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

怎么?使用Spark的cache機制觀察效率的提升

發布時間:2021-12-16 14:32:25 來源:億速云 閱讀:147 作者:iii 欄目:云計算

這篇文章主要講解了“怎么使用Spark的cache機制觀察效率的提升”,文中的講解內容簡單清晰,易于學習與理解,下面請大家跟著小編的思路慢慢深入,一起來研究和學習“怎么使用Spark的cache機制觀察效率的提升”吧!

使用Spark的cache機制觀察一下效率的提升

基于上面的內容,我們在執行一下以下語句:

怎么?使用Spark的cache機制觀察效率的提升

怎么?使用Spark的cache機制觀察效率的提升

發現同樣計算結果是15.

此時我們在進入Web控制臺:

怎么?使用Spark的cache機制觀察效率的提升

發現控制臺中清晰展示我們執行了兩次“count”操作。

現在我們把“sparks”這個變量執行一下“cache”操作:

怎么?使用Spark的cache機制觀察效率的提升

此時在執行count操作,查看Web控制臺:

怎么?使用Spark的cache機制觀察效率的提升

此時發現我們前后執行的三次count操作耗時分別是0.7s、0.3s、0.5s。

此時我們 第四次執行count操作,看一下Web控制臺的效果:

怎么?使用Spark的cache機制觀察效率的提升

控制臺上清晰的第四次操作僅僅花費了17ms,比前三次的操作速度大約快了30倍的樣子。這就是緩存帶來的巨大速度提升,而基于緩存是Spark的計算的核心之一!

第三步:構建Spark的IDE開發環境

Step 1:目前世界上Spark首選的InteIIiJ IDE開發工具是IDEA,我們下載InteIIiJ IDEA:

怎么?使用Spark的cache機制觀察效率的提升

這里下載是最新版本Version 13.1.4:

怎么?使用Spark的cache機制觀察效率的提升

關于版本的選擇,官方給出了如下選擇依據:

我們在這里選擇Linux系統下的”Community Edition FREE”這個版本,這能完全滿足我們任意復雜程度的Scala開發需求。

家林下載完成后保存在本地的如下位置:

怎么?使用Spark的cache機制觀察效率的提升

Step 2:安裝IDEA并配置IDEA系統環境變量

創建“/usr/local/idea”目錄:

怎么?使用Spark的cache機制觀察效率的提升

把我們下載的idea壓縮包解壓到該目錄下:

怎么?使用Spark的cache機制觀察效率的提升

安裝完成后,為了方便使用其bin目錄下的命令,我們把它配置在“~/.bashrc”:

感謝各位的閱讀,以上就是“怎么使用Spark的cache機制觀察效率的提升”的內容了,經過本文的學習后,相信大家對怎么使用Spark的cache機制觀察效率的提升這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是億速云,小編將為大家推送更多相關知識點的文章,歡迎關注!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

肇源县| 黄山市| 永登县| 柞水县| 高碑店市| 钟祥市| 彰武县| 诸暨市| 德保县| 罗江县| 广水市| 伊春市| 镇宁| 清流县| 德格县| 廉江市| 抚顺县| 锦屏县| 义马市| 怀远县| 留坝县| 仁怀市| 夏河县| 余江县| 翼城县| 松溪县| 贡觉县| 高台县| 民乐县| 仙桃市| 云和县| 海兴县| 鄄城县| 清新县| 唐河县| 新兴县| 固始县| 南昌市| 鄂尔多斯市| 墨脱县| 鄂托克旗|