溫馨提示×
您好，登錄后才能下訂單哦！
點擊 登錄注冊 即表示同意《億速云用戶服務條款》
您好，登錄后才能下訂單哦！
本篇文章給大家分享的是有關Structured Streaming怎么使用checkpoint進行故障恢復，小編覺得挺實用的，因此分享給大家學習，希望大家閱讀完這篇文章后可以有所收獲，話不多說，跟著小編一起來看看吧。
使用checkpoint進行故障恢復
如果發生故障或關機，可以恢復之前的查詢的進度和狀態，并從停止的地方繼續執行。這是使用Checkpoint和預寫日志完成的。您可以使用檢查點位置配置查詢，那么查詢將將所有進度信息（即，每個觸發器中處理的偏移范圍）和運行聚合（例如，示例中的wordcount）保存到檢查點位置。此檢查點位置必須是HDFS兼容文件系統中的路徑，并且可以在啟動查詢時將其設置為DataStreamWriter中的選項。
aggDF
.writeStream
.outputMode("complete")
.option("checkpointLocation", "path/to/HDFS/dir")
.format("memory")
.start()
具體測試代碼如下：
val lines = spark.readStream.format("socket").option("host", "localhost").option("port", 9999).load()
val words = lines.as[String].flatMap(_.split(" "))
val wordCounts = words.groupBy("value").count()
val query = wordCounts.writeStream.queryName("aggregates").outputMode("complete").option("checkpointLocation", "memory/").format("memory").start()
spark.sql("select * from aggregates").show()
kill掉submit進行測試
以上就是Structured Streaming怎么使用checkpoint進行故障恢復，小編相信有部分知識點可能是我們日常工作會見到或用到的。希望你能通過這篇文章學到更多知識。更多詳情敬請關注億速云行業資訊頻道。
免責聲明：本站發布的內容（圖片、視頻和文字）以原創、轉載和分享為主，文章觀點不代表本網站立場，如果涉及侵權請聯系站長郵箱：is@yisu.com進行舉報，并提供相關證據，一經查實，將立刻刪除涉嫌侵權內容。
