您好,登錄后才能下訂單哦!
這篇文章主要介紹了PHP結合MySQL實現千萬級數據處理的示例,具有一定借鑒價值,需要的朋友可以參考下。希望大家閱讀完這篇文章后大有收獲。下面讓小編帶著大家一起了解一下。
一張一億的訂單表,可以分成五張表,這樣每張表就只有兩千萬數據,分擔了原來一張表的壓力,分表需要根據某個條件進行分,這里可以根據地區來分表,需要一個中間件來控制到底是去哪張表去找到自己想要的數據。
中間件:根據主表的自增id作為中間件(什么樣的字段適合做中間件?要具備唯一性)
怎么分發?主表插入之后返回一個id,根據這個id和表的數量進行取模,余數是幾就往哪張表中插入數據。
注意:子表中的id要與主表的id保持一致
以后只有插入操作會用到主表,修改,刪除,讀取,均不需要用到主表
1,什么是消息隊列?
消息傳播過程中保存消息的容器
2,消息隊列產生的歷史原因
消息隊列的特點:先進先出
把要執行的sql語句先保存在消息隊列中,然后依次按照順利異步插入的數據庫中
應用:新浪,把瞬間的評論先放入消息隊列,然后通過定時任務把消息隊列里面的sql語句依次插入到數據庫中
操作子表進行修改
這樣修改有一個問題,主表和子表的數據會出現不一致,如何讓主表和字表數據一致?
修改完成后將要修改主表的數據,存入redis隊列中
然后linux定時任務(contble)循環執行redis隊列中的sql語句,同步更新主表的內容
查詢只需要查詢子表,不要查詢總表
刪除,先根據id找到要刪除的子表,然后刪除,然后往消息隊列中壓入一條刪除總表數據的sql語句
然后執行定時任務刪除總表數據
定時任務:
分庫原理圖:
注意:操作完一個數據庫一定要把數據庫連接關閉,不然mysql會以為一直連接的同一個數據庫
還是取模確定加載哪個配置文件連接哪個數據庫
原理同新增
原理類似
刪除
執行隊列
將數據放入緩存中,節省數據庫開銷,先去緩存中查,如果有直接取出,如果沒有,去數據庫查,然后存入緩存中
在編輯信息之后需要刪除緩存,不然一直讀取的是緩存的數據而不是修改過的數據
感謝你能夠認真閱讀完這篇文章,希望小編分享PHP結合MySQL實現千萬級數據處理的示例內容對大家有幫助,同時也希望大家多多支持億速云,關注億速云行業資訊頻道,遇到問題就找億速云,詳細的解決方法等著你來學習!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。