歡迎光臨
每天分享高質量文章

RabbitMQ死信佇列另類用法之複合死信

前言

在業務開發過程中,我們常常需要做一些定時任務,這些任務一般用來做監控或者清理任務,比如在訂單的業務場景中,用戶在創建訂單後一段時間內,沒有完成支付,系統將自動取消該訂單,並將庫存傳回到商品中,又比如在微信中,用戶發出紅包24小時後,需要對紅包進行檢查,是否已領取完成,如未領取完成,將剩餘金額退回到發送者錢包中,同時銷毀該紅包。

在專案初始階段,或者是一些小型的專案中,常常採用定時輪詢的方法進行檢查,但是我們都知道,定時輪詢將給資料庫帶來不小的壓力,而且定時間隔無法進行動態調整,特別是一個系統中,同時存在好幾個定時器的時候,就顯得非常的麻煩,同時給資料庫造成巨大的訪問壓力。

下麵,本文將演示如何使用一個 RabbitMQ 的死信佇列同時監控多種業務(複合業務),達到模塊解耦,釋放壓力的目的。

註意:名詞“複合死信”是為了敘述方便臨時創造的,如有不妥,歡迎指正

1. 什麼是 RabbitMQ 死信佇列

DLX(Dead Letter Exchanges)死信交換,死信佇列本身也是一個普通的訊息佇列,在創建佇列的時候,通過設置一些關鍵引數,可以將一個普通的訊息佇列設置為死信佇列,與其它訊息佇列不同的是,其入棧的訊息根據入棧時指定的過期時間/被拒絕/超出佇列長度被移除,依次被轉發到指定的訊息佇列中進行二次處理。這樣說法比較拗口,其原理就是死信佇列內位於頂部的訊息過期時,該訊息將被馬上發送到另外一個訂閱者(訊息佇列)中。

其原理入下圖

由上圖可以看到,目前有三種型別的業務需要使用 DLX 進行處理,因為每個業務的超時時間不一致的問題,如果將他們都放入一個 DLX 中進行處理,將會出現一個時序的問題,即訊息佇列總數處理頂部的訊息,如果頂部的訊息未過期,而底部的訊息過期,這就麻煩了,因為過期的訊息無法得到消費,將會造成延遲;所以正常情況下,最好的辦法是每個業務都獨立一個佇列,這樣就可以保證,即將過期的訊息總是處於佇列的頂部,從而被第一時間處理。

但是多個 DLX 又帶來了管理上面的問題,隨著業務的增加,越來越多的業務需要進入不同的 DLX ,這個時候我們發現,由於人手不足的原因,維護這麼多 DLX 實在是太吃力了,如果能將這些訊息都接入一個 DLX 中該多好呀,在一個 DLX 中進行訊息訂閱,然後進行分發或者處理,這就非常有趣了。

下麵就按照這個思路,我們進行集中處理,也就是複合死信交換 CDLX(Composite Dead Letter Exchanges)

2. 如何創建死信佇列

創建 DLX 佇列的方式非常簡單,我們使用 RabbitMQ Web 控制面板進行創建 Exhcange(交換機)/Consumer(死信消費佇列)/cdlx(複合死信佇列)

2.1 創建佇列

創建交換機 cdlx-Exchange

死信消費佇列 cdlx-Consumer

複合死信佇列 cdlx-Master

  • 註意,這裡添加死信佇列必須同時設置死信轉發交換機和路由,後續通過路由系結實現消費佇列

路由系結

上面的路由系結共有兩個,分別是 Master 和 Consumer 用於訊息路由到佇列,為下麵的業務訊息做準備,建好後的佇列如下

3.複合業務進入死信佇列

當建立好佇列以後,我們就可以專心的處理業務了,下麵就來模擬3種業務將訊息發送到死信佇列的過程

3.1 發送死信訊息到佇列

發送訊息使用了 Asp.NetCore輕鬆學-實現一個輕量級高可復用的RabbitMQ客戶端 中的輕量客戶端,封裝後的發送訊息代碼如下

  1. public class CdlxMasterService
  2. {
  3. private IConfiguration cfg = null;
  4. private ILogger logger = null;
  5. private string vhost = "test_mq";
  6. private string exchange = "cdlx-Exchange";
  7. private string routekey = "master";
  8. private static MQConnection connection = null;
  9.  
  10. private MQConnection Connection
  11. {
  12. get
  13. {
  14. if (connection == null || !connection.Connection.IsOpen)
  15. {
  16. connection = new MQConnection(
  17. cfg["rabbitmq:username"],
  18. cfg["rabbitmq:password"],
  19. cfg["rabbitmq:host"],
  20. Convert.ToInt32(cfg["rabbitmq:port"]),
  21. vhost,
  22. logger);
  23. }
  24. return connection;
  25. }
  26. }
  27.  
  28. private static IModel channel = null;
  29. private IModel Channel
  30. {
  31. get
  32. {
  33. if (channel == null || channel.IsClosed)
  34. channel = Connection.Connection.CreateModel();
  35.  
  36. return channel;
  37. }
  38. }
  39.  
  40. public void SendMessage(object data)
  41. {
  42. string message = JsonConvert.SerializeObject(data);
  43. this.Connection.Publish(this.Channel, exchange, routekey, message);
  44. }
  45. }
3.2 將 CdlxMasterService 註入到服務
  1. public void ConfigureServices(IServiceCollection services)
  2. {
  3. services.AddSingleton<CdlxMasterService>();
  4. ...
  5. }
3.3 模擬3種業務生產死信訊息
  1. public class HomeController : Controller
  2. {
  3. private CdlxMasterService masterService;
  4. public HomeController(CdlxMasterService masterService)
  5. {
  6. this.masterService = masterService;
  7. }
  8.  
  9. [HttpGet("publish")]
  10. public int Publish()
  11. {
  12. Contract contract = new Contract(this.masterService);
  13. for (int i = 0; i < 10; i++)
  14. {
  15. contract.Publish(MessageType.RedPackage, "紅包信息,超時時間1024s");
  16. contract.Publish(MessageType.Order, "訂單信息,超時時間2048s");
  17. contract.Publish(MessageType.Vote, "投票信息,超時時間4096s");
  18. }
  19. return 0;
  20. }
  21. }

上面的接口 puhlish 模擬了業務訊息,由於我們依次發佈了 紅包/訂單/投票 訊息,所以迭代發佈 10 次後,正好形成了一個時序錯亂的信息佇列,按照自動過期時序計算,當第一個紅包超時到達時,第四條訊息(紅包)也會接著超時,可是由於此時訂單和投票訊息位於紅包訊息上面,該紅包訊息在達到超時時間後並不會被投遞到 Consumer 消費佇列,這是正確的,我們確實也是希望是這個結果

如果有一個辦法把超時的訊息自動將其提升到佇列頂部就好了!

4. 處理複合死信

在 RabbitMQ 提供的 API 接口中,沒有什麼直接可用的能將死信佇列中超時訊息提升到頂部的好辦法;但是,我們可以利用部分 API 接口的特性來完成這件事情。

4.1 定時消費客戶端

下麵,我們將使用一個定時消費客戶端來完成對死信佇列的輪詢,充分利用 RabbitMQ 的消費特性來完成超時訊息的位置提升。

過程如下圖:

如上圖所示,我們增加一個 dlx-timer 定時器,定時的發起對死信佇列的消費,該消費者僅僅是消費,不確認訊息,也就是不做 ack,然後將訊息重新置入佇列中;這個過程,就是將訊息不斷提升位置的過程。

4.2 定時消費客戶端實現代碼
  1. public class CdlxTimerService : MQServiceBase
  2. {
  3. public override string vHost { get { return "test_mq"; } }
  4. public override string Exchange { get { return "cdlx-Exchange"; } }
  5. public override List<BindInfo> Binds => new List<BindInfo>();
  6. private string queue = "cdlx-Master";
  7.  
  8. public CdlxTimerService(IConfiguration cfg, ILogger logger) : base(cfg, logger)
  9. {
  10. }
  11.  
  12. ///
  13. /// 檢查死信佇列
  14. ///
  • ///
  • public List<CdlxMessage> CheckMessage()
  • {
  • long total = 0;
  • List<CdlxMessage> list = new List<CdlxMessage>();
  • var connection = base.CreateConnection();
  • using (IModel channel = connection.Connection.CreateModel())
  • {
  • bool latest = true;
  • while (latest)
  • {
  • BasicGetResult result = channel.BasicGet(this.queue, false);
  • total++;
  • latest = result != null;
  • if (latest)
  • {
  • var json = Encoding.UTF8.GetString(result.Body);
  • list.Add(JsonConvert.DeserializeObject<CdlxMessage>(json));
  • }
  • }
  • channel.Close();
  • connection.Close();
  • }
  • return list;
  • }
  • }

上面的代碼首先在定時呼叫到來的時候,創建了一個 Connection,然後利用此 Connection 創建了了一個 Channel,緊接著,使用該 Channel 呼叫 BasicGet 方法,獲得佇列頂部的信息,且設置 autoAck=false,表示僅檢查訊息,不確認,然後進入一個 while 迭代過程,一直讀取到佇列底部,獲得所有佇列中的信息,最後,關閉了通道釋放連接。

這樣,就完成了一次訊息檢查的過程,在呼叫 BasicGet 後,下一條信息將會出現在佇列的頂部,同步,佇列將自動對該訊息進行超時檢查,由於我們在呼叫 BasicGet 的時候,傳入 autoAck=false,不確認該訊息,在 RabbitMQ 控制臺中,將顯示為 unacted,所以在釋放連接後,所有訊息將會被重新置入佇列中,這是一個自動的過程,無需我們做額外的工作。

4.3 Consumer(死信消費佇列)最終處理業務

配置佇列管理隨程式啟動停止

  1. private MQServcieManager serviceManager;
  2. // This method gets called by the runtime. Use this method to configure the HTTP request pipeline.
  3. public void Configure(IApplicationBuilder app, IHostingEnvironment env, ILoggerFactory factory, IApplicationLifetime lifeTime)
  4. {
  5. serviceManager = new MQServcieManager(this.Configuration, factory.CreateLogger<MQServcieManager>());
  6. lifeTime.ApplicationStarted.Register(() => { serviceManager.Start(); });
  7. lifeTime.ApplicationStopping.Register(() => { serviceManager.Stop(); });
  8. ...
  9. }

實現消費佇列

  1. public class CdlxConsumerService : MQServiceBase
  2. {
  3. public override string vHost { get { return "test_mq"; } }
  4. public override string Exchange { get { return "cdlx-Exchange"; } }
  5. private string queue = "cdlx-Consumer";
  6. private string routeKey = "all";
  7. private List<BindInfo> bs = new List<BindInfo>();
  8. public override List<BindInfo> Binds { get { return bs; } }
  9.  
  10. public CdlxConsumerService(IConfiguration cfg, ILogger logger) : base(cfg, logger)
  11. {
  12. this.bs.Add(new BindInfo
  13. {
  14. ExchangeType = ExchangeType.Direct,
  15. Queue = this.queue,
  16. RouterKey = this.routeKey,
  17. OnReceived = this.OnReceived
  18. });
  19. }
  20.  
  21. private void OnReceived(MessageBody body)
  22. {
  23. var message = JsonConvert.DeserializeObject<CdlxMessage>(body.Content);
  24. Console.WriteLine("型別:{0}\t 內容:{1}\t進入時間:{2}\t過期時間:{3}", message.Type, message.Data, message.CreateTime, message.CreateTime.AddSeconds(message.Expire));
  25.  
  26. body.Consumer.Model.BasicAck(body.BasicDeliver.DeliveryTag, true);
  27. }
  28. }

上面的代碼,模擬了最終業務處理的過程,這裡僅僅是簡單演示,所以只是將訊息打印到屏幕上;在實際的業務場景中,我們可以根據不同的 MessageType 進行訊息的分發處理。

5. 消費過程演示

為了比較直觀的觀看死信消費過程,我們編寫一個簡單的串列頁面,自動掃清後去消費死信佇列,然後將訊息輸出到頁面上,通過觀察此頁面,我們可以實時瞭解到死信佇列的消費過程,實際的業務場景中,大家可以利用第三方定時器定時呼叫接口實現,或者使用內置的輕量主機做後臺任務實現定時輪詢,具體參考 Asp.Net Core 輕鬆學-基於微服務的後臺任務調度管理器

5.1 發佈訊息

瀏覽器訪問本機地址:http://localhost:5000/home/publish

下麵將發佈 30 條信息到 DLX 中,每個業務各 10 條信息。

通常情況下,紅包的過期時間最短且超時時間一致,應該最快超時,意味著當第一條紅包訊息超時的時候,其餘 9 條紅包訊息也會一併超時,但是由於紅包訊息混合的發佈在佇列中,且只有第一條紅包訊息位移佇列頂部;所以,當第一條紅包訊息超時被消費後,其餘 9 條紅包由於不是位於佇列頂部,雖然此時他們已經超時,但是 DLX 將無法處理;當我們使用 cdlx-timer(定時器)模擬呼叫 CdlxTimerService 的時候(也就是掃清首頁), CdlxTimerService 服務將會對 DLX 進行檢查。

查看消費狀態

通過上圖的觀察得知,紅色部分首先位於訊息頂部被消費,然後就無法進行超時判斷,接下來,由於使用了定時輪詢,使得綠色部分訊息得以浮動到訊息頂部,然後被 DLX 進行處理後消費。

5.2 定時器檢查死信佇列

瀏覽器訪問本機地址:http://localhost:5000/home

上圖的每一次掃清,都是對 DLX 的一次輪詢檢查,隨著輪詢的深入,所有處於佇列中不同位置的超時訊息都有機會浮動到佇列頂部進行消費處理。

結束語

業務的發展促進了架構的演進,每一個需求升級的背後,是程式員深深的思考;本文從 CDLX 的需求出發,充分利用了 RabbitMQ DLX 對訊息檢查的特性,實現了對複合業務的集中處理。

演示代碼下載

https://github.com/lianggx/Examples/tree/master/RabbitMQ.CDLX

 

    赞(0)

    分享創造快樂