您好,登錄后才能下訂單哦!
本篇內容介紹了“總結RabbitMQ”的有關知識,在實際案例的操作過程中,不少人都會遇到這樣的困境,接下來就讓小編帶領大家學習一下如何處理這些情況吧!希望大家仔細閱讀,能夠學有所成!
RabbitMQ是基于AMQP協議的,通過使用通用協議就可以做到在不同語言之間傳遞。
server:又稱broker,接受客戶端連接,實現AMQP實體服務。
connection:連接和具體broker網絡連接。整理了一份Java面試寶典完整版PDF已整理成文檔
channel:網絡信道,幾乎所有操作都在channel中進行,channel是消息讀寫的通道。客戶端可以建立多個channel,每個channel表示一個會話任務。
message:消息,服務器和應用程序之間傳遞的數據,由properties和body組成。properties可以對消息進行修飾,比如消息的優先級,延遲等高級特性;body是消息實體內容。
Virtual host:虛擬主機,用于邏輯隔離,最上層消息的路由。一個Virtual host可以若干個Exchange和Queue,同一個Virtual host不能有同名的Exchange或Queue。
Exchange:交換機,接受消息,根據路由鍵轉發消息到綁定的隊列上。
banding:Exchange和Queue之間的虛擬連接,binding中可以包括routing key
routing key:一個路由規則,虛擬機根據他來確定如何路由 一條消息。
Queue:消息隊列,用來存放消息的隊列。
交換機的類型,direct、topic、fanout、headers,durability(是否需要持久化true需要)auto delete當最后一個綁定Exchange上的隊列被刪除Exchange也刪除。
Direct Exchange,所有發送到Direct Exchange的消息被轉發到RouteKey 中指定的Queue,Direct Exchange可以使用默認的默認的Exchange (default Exchange),默認的Exchange會綁定所有的隊列,所以Direct可以直接使用Queue名(作為routing key )綁定。或者消費者和生產者的routing key完全匹配。
Toptic Exchange,是指發送到Topic Exchange的消息被轉發到所有關心的Routing key中指定topic的Queue上。Exchange 將routing key和某Topic進行模糊匹配,此時隊列需要綁定一個topic。所謂模糊匹配就是可以使用通配符,“#”可以匹配一個或多個詞,“”只匹配一個詞比如“log.#”可以匹配“log.info.test” "log. "就只能匹配log.error。
Fanout Exchange:不處理路由鍵,只需簡單的將隊列綁定到交換機上。發送到改交換機上的消息都會被發送到與該交換機綁定的隊列上。Fanout轉發是最快的。
保證消息的成功發出
保證MQ節點節點的成功接收
發送端MQ節點(broker)收到消息確認應答
完善消息進行補償機制
消息落庫,對消息進行打標
在高并發場景下,每次進行db的操作都是每場消耗性能的。我們使用延遲隊列來減少一次數據庫的操作。
我對一個動作進行操作,我們肯能要執行100次1000次,對于這1000次執行的結果都必須一樣的。比如單線程方式下執行update count-1的操作執行一千次結果都是一樣的,所以這個更新操作就是一個冪等的,如果是在并發不做線程安全的處理的情況下update一千次操作結果可能就不是一樣的,所以并發情況下的update操作就不是一個冪等的操作。對應到消息隊列上來,就是我們即使受到了多條一樣的消息,也和消費一條消息效果是一樣的。
唯一id+加指紋碼,利用數據庫主鍵去重。 優點:實現簡單 缺點:高并發下有數據寫入瓶頸。
利用Redis的原子性來實習。 使用Redis進行冪等是需要考慮的問題
是否進行數據庫落庫,落庫后數據和緩存如何做到保證冪等(Redis 和數據庫如何同時成功同時失敗)?
如果不進行落庫,都放在Redis中如何這是Redis和數據庫的同步策略?還有放在緩存中就能百分之百的成功嗎?
理解confirm消息確認機制
消息的確認,指生產者收到投遞消息后,如果Broker收到消息就會給我們 的生產者一個應答,生產者接受應答來確認broker是否收到消息。
在Channel上開啟確認模式:channel.confirmSelect()
在channel上添加監聽:addConfirmListener,監聽成功和失敗的結果,具體結果對消息進行重新發送或者記錄日志。
Return消息機制處理一些不可路由的消息,我們的生產者通過指定一個Exchange和Routinkey,把消息送達到某一個隊列中去,然后我們消費者監聽隊列進行消費處理!
在某些情況下,如果我們在發送消息的時候當Exchange不存在或者指定的路由key路由找不到,這個時候如果我們需要監聽這種不可到達的消息,就要使用Return Listener!
Mandatory 設置為true則會監聽器會接受到路由不可達的消息,然后處理。如果設置為false,broker將會自動刪除該消息。
假設我們有個場景,首先,我們有個rabbitMQ服務器上有上萬條消息未消費,然后我們隨便打開一個消費者客戶端,會出現:巨量的消息瞬間推送過來,但是我們的消費端無法同時處理這么多數據。
這時就會導致你的服務崩潰。其他情況也會出現問題,比如你的生產者與消費者能力不匹配,在高并發的情況下生產端產生大量消息,消費端無法消費那么多消息。
rabbitMQ提供了一種qos(服務質量保證)的功能,即非自動確認消息的前提下,如果有一定數目的消息(通過consumer或者Channel設置qos)未被確認,不進行新的消費。
void basicQOS(unit prefetchSize,ushort prefetchCount,Boolean global)方法。
prefetchSize:0 單條消息的大小限制。0就是不限制,一般都是不限制。
prefetchCount: 設置一個固定的值,告訴rabbitMQ不要同時給一個消費者推送多余N個消息,即一旦有N個消息還沒有ack,則consumer將block掉,直到有消息ack
global:truefalse 是否將上面的設置用于channel,也是就是說上面設置的限制是用于channel級別的還是consumer的級別的。
消費端進行消費的時候,如果由于業務異常我們可以進行日志的記錄,然后進行補償!(也可以加上最大努力次數的嘗試)
如果由于服務器宕機等嚴重問題,那我們就需要手動進行ack保證消費端的消費成功!
重回隊列就是為了對沒有處理成功的消息,把消息重新投遞給broker!
實際應用中一般都不開啟重回隊列。
TTL time to live 生存時間。
支持消息的過期時間,在消息發送時可以指定。
支持隊列過期時間,在消息入隊列開始計算時間,只要超過了隊列的超時時間配置,那么消息就會自動的清除。
死信隊列:DLX,Dead-Letter-Exchange
利用DLX,當消息在一個隊列中變成死信(dead message,就是沒有任何消費者消費)之后,他能被重新publish到另一個Exchange,這個Exchange就是DLX。
消息變為死信的幾種情況:
消息被拒絕(basic.reject/basic.nack)同時requeue=false(不重回隊列)
TTL過期
隊列達到最大長度
DLX也是一個正常的Exchange,和一般的Exchange沒有任何的區別,他能在任何的隊列上被指定,實際上就是設置某個隊列的屬性。 當這個隊列出現死信的時候,RabbitMQ就會自動將這條消息重新發布到Exchange上去,進而被路由到另一個隊列。可以監聽這個隊列中的消息作相應的處理,這個特性可以彌補rabbitMQ以前支持的immediate參數的功能。
死信隊列的設置
設置Exchange和Queue,然后進行綁定
Exchange: dlx.exchange(自定義的名字)
queue: dlx.queue(自定義的名字)
routingkey: #(#表示任何routingkey出現死信都會被路由過來)
然后正常的聲明交換機、隊列、綁定,只是我們在隊列上加上一個參數:
arguments.put("x-dead-letter-exchange","dlx.exchange");
主備模式:實現rabbitMQ高可用集群,一般在并發量和數據不大的情況下,這種模式好用簡單。又稱warren模式。(區別于主從模式,主從模式主節點提供寫操作,從節點提供讀操作,主備模式從節點不提供任何讀寫操作,只做備份)如果主節點宕機備份從節點會自動切換成主節點,提供服務。
集群模式:經典方式就是Mirror模式,保證100%數據不丟失,實現起來也是比較簡單。
鏡像隊列,是rabbitMQ數據高可用的解決方案,主要是實現數據同步,一般來說是由2-3節點實現數據同步,(對于100%消息可靠性解決方案一般是3個節點)整理了一份Java面試寶典完整版PDF已整理成文檔
federation插件是一個不需要構建Cluster,而在Brokers之間傳輸消息的高性能插件,federation可以在brokers或者cluster之間傳輸消息,連接的雙方可以使用不同的users或者virtual host雙方也可以使用不同版本的erlang或者rabbitMQ版本。federation插件可以使用AMQP協議作為通訊協議,可以接受不連續的傳輸。
Federation Exchanges,可以看成Downstream從Upstream主動拉取消息,但 并不是拉取所有消息,必須是在Downstream上已經明確定義Bindings關系的 Exchange,也就是有實際的物理Queue來接收消息,才會從Upstream拉取消息 到Downstream。
使用AMQP協議實施代理間通信,Downstream 會將綁定關系組合在一起, 綁定/解除綁定命令將發送到Upstream交換機。
因此,Federation Exchange只接收具有訂閱的消息。
HAProxy是一款提供高可用性、負載均衡以及基于TCP (第四層)和HTTP (第七層)應用的代理軟件,支持虛擬主機,它是免費、快速并且可靠的一種解決 方案。 HAProxy特別適用于那些負載特大的web站點,這些站點通常又需要會 話保持或七層處理。HAProxy運行在時下的硬件上,完全可以支持數以萬計的 并發連接。 并且它的運行模式使得它可以很簡單安全的整合進您當前的架構中 同時可以保護你的web服務器不被暴露到網絡上。
單進程、事件驅動模型顯著降低了.上下文切換的開銷及內存占用.
在任何可用的情況下,單緩沖(single buffering)機制能以不復制任何數據的方式完成讀寫操作,這會節約大量的CPU時鐘周期及內存帶寬
借助于Linux 2.6 (>= 2.6.27.19). 上的splice()系統調用,HAProxy可以實現零復制轉發(Zero-copy forwarding),在Linux 3.5及以上的OS中還可以實現心零復制啟動(zero-starting)
內存分配器在固定大小的內存池中可實現即時內存分配,這能夠顯著減少創建一個會話的時長
樹型存儲:側重于使用作者多年前開發的彈性二叉樹,實現了以O(log(N))的低開銷來保持計時器命令、保持運行隊列命令及管理輪詢及最少連接隊列
KeepAlived軟件主要是通過VRRP協議實現高可用功能的。VRRP是 Virtual Router RedundancyProtocol(虛擬路由器冗余協議)的縮寫, VRRP出現的目的就是為了解決靜態路由單點故障問題的,它能夠保證當 個別節點宕機時,整個網絡可以不間斷地運行所以,Keepalived - -方面 具有配置管理LVS的功能,同時還具有對LVS下面節點進行健康檢查的功 能,另一方面也可實現系統網絡服務的高可用功能
keepAlive的作用
管理LVS負載均衡軟件
實現LVS集群節點的健康檢查中
作為系統網絡服務的高可用性(failover)
Keepalived高可用服務對之間的故障切換轉移,是通過VRRP (Virtual Router Redundancy Protocol ,虛擬路由器冗余協議)來實現的。整理了一份Java面試寶典完整版PDF已整理成文檔
在Keepalived服務正常工作時,主Master節點會不斷地向備節點發送( 多播的方式)心跳消息,用以告訴備Backup節點自己還活看,當主Master節點發生故障時,就無法發送心跳消息,備節點也就因此無法繼續檢測到來自主Master節點的心跳了,于是調用自身的接管程序,接管主Master節點的IP資源及服務。
而當主Master節點恢復時備Backup節點又會釋放主節點故障時自身接管的IP資源及服務,恢復到原來的備用角色。
“總結RabbitMQ”的內容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業相關的知識可以關注億速云網站,小編將為大家輸出更多高質量的實用文章!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。