朋友们,好久不见,不知道你们最近怎样,但相信你们一定都挺好。已经有一段时间没有更新了,个中原因不好细说,但是归根结底也许是自己懒。这个不好,大家不要学。今天主要就是想分享一下关于消息处理机制的一些想法。
同一个topic下消息的格式一致,例如topic为order-update-message消息的格式都是一个统一的OrderUpdateMessage的结构
同一主键下的消息列表具有顺序性,例如key为订单号order-0001的消息列表(Queue)下,可能包含的消息列表(Queue)如下:
OrderUpdateMessage(id="msg-0001", orderId = "order-0001", action="create", ...)OrderUpdateMessage(id="msg-0002", orderId = "order-0001", action="paid", ...)OrderUpdateMessage(id="msg-0003", orderId = "order-0001", action="delivering", ...)OrderUpdateMessage(id="msg-0004", orderId = "order-0001", action="modifying", ...)OrderUpdateMessage(id="msg-0005", orderId = "order-0001", action="delivered", ...)
同一个topic下同一个group下的消费者,对这个group下的消息队列进行抢占式消费。例如同一个消费者组group-1下的消费者consumer-1和消费者consumer-2,以及另外一个消费者组group-2下的消费者consumer-3,消息消费的结果可能如下:
// consumer-1消费的消息OrderUpdateMessage(id="msg-0001", orderId = "order-0001", action="create", ...)OrderUpdateMessage(id="msg-0002", orderId = "order-0001", action="paid", ...)// consumer-2消费的消息OrderUpdateMessage(id="msg-0003", orderId = "order-0001", action="modified", ...)OrderUpdateMessage(id="msg-0004", orderId = "order-0001", action="delivering", ...)OrderUpdateMessage(id="msg-0005", orderId = "order-0001", action="delivered", ...)// consumer-3消费的消息OrderUpdateMessage(id="msg-0001", orderId = "order-0001", action="create", ...)OrderUpdateMessage(id="msg-0002", orderId = "order-0001", action="paid", ...)OrderUpdateMessage(id="msg-0003", orderId = "order-0001", action="modified", ...)OrderUpdateMessage(id="msg-0004", orderId = "order-0001", action="delivering", ...)OrderUpdateMessage(id="msg-0005", orderId = "order-0001", action="delivered", ...)
Kafka的消息处理机制就是以这样的形式实现的。
生产者和消费者完全解耦,生产者无需关注是否有消费者在消费,消费者也无需知道生产者是否在生成新的消息。
生产者只关注消息是否成功的发送到消息处理中间件,消费者只关注能否从消息处理中间件消费到消息。
消费者可以按组消费,同组内的消费者进行抢占式消费。
生产者讲带有指定RoutingKey的消息发送到对应的Exchange上,Exchange通过Binding定义的路由规格,将消息按照BindingKey分发到不同的Queue上,消费者从Queue拉取消息消费。
因此如果要以RabbitMq实现基于Topic和Group实现的消息生产和消费的机制,可以将消息定义成以下类似的结构:
// Exchange: {value="order-update", type="fanout"}// binding1: {value="promotion-service", bindingKey="order.*.paid"}// binding2: {value='inventory-service', bindingKey="order.*"}OrderUpdateMessage(id="msg-0001", orderId = "order-0001", action="create", ...)OrderUpdateMessage(id="msg-0002", orderId = "order-0001", action="paid", ...)OrderUpdateMessage(id="msg-0003", orderId = "order-0001", action="modified", ...)OrderUpdateMessage(id="msg-0004", orderId = "order-0001", action="delivering", ...)OrderUpdateMessage(id="msg-0005", orderId = "order-0001", action="delivered", ...)OrderUpdateMessage(id="msg-0006", orderId = "order-0002", action="paid", ...)
假设此时有promotion-service(1个实例)和inventory-service(2个实例)两个消费者消费消息,则对应的消息消费的结果可能是:
// inventory-service// Exchange: {value="order-update", type="fanout"}// QueueBinding: {value=Queue('inventory-service'), bindingKey="order.*"}// inventory-service实例1消费到的消息OrderUpdateMessage(id="msg-0001", orderId = "order-0001", action="create", ...)OrderUpdateMessage(id="msg-0002", orderId = "order-0001", action="paid", ...)OrderUpdateMessage(id="msg-0006", orderId = "order-0002", action="paid", ...)// inventory-service实例2消费到的消息OrderUpdateMessage(id="msg-0003", orderId = "order-0001", action="modified", ...)OrderUpdateMessage(id="msg-0004", orderId = "order-0001", action="delivering", ...)OrderUpdateMessage(id="msg-0005", orderId = "order-0001", action="delivered", ...)// promotion-service// Exchange: {value="order-update", type="fanout"}// QueueBinding: {value="promotion-service", bindingKey="order.*.paid"}// promotion-service实例1消费到的消息OrderUpdateMessage(id="msg-0002", orderId = "order-0001", action="paid", ...)OrderUpdateMessage(id="msg-0006", orderId = "order-0002", action="paid", ...)
RabbitMQ的Exchange支持不同类型(Direct, Fanout, Topic, Headers),以及Binding可以对消息以更灵活的通配符的方式将消息分发到对应的Queue上,因此其消息处理机制更加灵活。
基于Topic的消息发布与消费模式,能够将消费者和生产者完全解耦,相对RabbitMQ中的所支持的灵活处理消息的方式,更加简单且易于理解,这也是Kafka的消息处理机制。
通过对比不同的中间件的消息处理机制也许能找到更好的实践方式。
本文链接:http://www.28at.com/showinfo-26-17548-0.html基于Topic的消息发布与消费模式
声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com
上一篇: 数据结构与集合的不解之缘,你了解多少?