您好,登錄后才能下訂單哦!
本篇文章為大家展示了Kafka的消息記錄留存策略及配置是怎樣的,內容簡明扼要并且容易理解,絕對能使你眼前一亮,通過這篇文章的詳細介紹希望你能有所收獲。
log.retention.check.interval.ms
log.retention.hours
log.segment.bytes
log.roll.hours
kafka的消息存放在segment文件中
kafka處理過期數據的操作對象是segment,處理方式為壓縮或刪除,或壓縮與刪除聯合
寫入數據
1.1 當前partition收到producer第一條要記錄的消息, 如果沒有segment,則kafka會新建segment
1.2 檢查要寫入的segment最后一條插入數據的時間戳: 如果大小大于log.segment.bytes配置的大小,則不再寫入,并創建新的segment,并將寫入游標指向新建的segment
1.3 檢查要寫入的segment文件的大小: 如果segment的創建時間距當前時間大于log.roll.hours配置的時間,則不再寫入,并創建新的segment,并將寫入游標指向新建的segment
1.4 寫入數據到segment文件
定時檢查并處理過期segment文件
2.1 kafka根據log.retention.check.interval.ms配置項發起定時任務: 定時檢查所有的segment
2.2 檢查segment是否符合執行過期處理的條件,如果segment最近時間戳距現在時間大于log.retention.hours配置時間,則會刪除該segment文件
上述內容就是Kafka的消息記錄留存策略及配置是怎樣的,你們學到知識或技能了嗎?如果還想學到更多技能或者豐富自己的知識儲備,歡迎關注億速云行業資訊頻道。
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。