一、缘起
如《消息总线消息必达》所述,MQ消息必达,架构上有两个核心设计点:
(1)消息落地
(2)消息超时、重传、确认
再次回顾消息总线核心架构,它由发送端、服务端、固化存储、接收端四大部分组成。
为保证消息的可达性,超时、重传、确认机制可能导致消息总线、或者业务方收到重复的消息,从而对业务产生影响。
举个栗子:
购买会员卡,上游支付系统负责给用户扣款,下游系统负责给用户发卡,通过MQ异步通知。不管是上半场的ACK丢失,导致MQ收到重复的消息,还是下半场ACK丢失,导致购卡系统收到重复的购卡通知,都可能出现,上游扣了一次钱,下游发了多张卡。
消息总线的幂等性设计至关重要,是本文将要讨论的重点。
二、上半场的幂等性设计
MQ消息发送上半场,即上图中的1-3
1,发送端MQ-client将消息发给服务端MQ-server
2,服务端MQ-server将消息落地
3,服务端MQ-server回ACK给发送端MQ-client
如果3丢失,发送端MQ-client超时后会重发消息,可能导致服务端MQ-server收到重复消息。
此时重发是MQ-client发起的,消息的处理是MQ-server,为了避免步骤2落地重复的消息,对每条消息,MQ系统内部必须生成一个inner-msg-id,作为去重和幂等的依据,这个内部消息ID的特性是(mqserver自动生成无需考虑):
(1)全局唯一
(2)MQ生成,具备业务无关性,对消息发送方和消息接收方屏蔽
有了这个inner-msg-id,就能保证上半场重发,也只有1条消息落到MQ-server的DB中,实现上半场幂等。
三、下半场的幂等性设计
MQ消息发送下半场,即上图中的4-6
4,服务端MQ-server将消息发给接收端MQ-client
5,接收端MQ-client回ACK给服务端
6,服务端MQ-server将落地消息删除
需要强调的是,接收端MQ-client回ACK给服务端MQ-server,是消息消费业务方的主动调用行为,不能由MQ-client自动发起,因为MQ系统不知道消费方什么时候真正消费成功。
如果5丢失,服务端MQ-server超时后会重发消息,可能导致MQ-client收到重复的消息。
此时重发是MQ-server发起的,消息的处理是消息消费业务方,消息重发势必导致业务方重复消费(上例中的一次付款,重复发卡),为了保证业务幂等性,业务消息体中,必须有一个biz-id,作为去重和幂等的依据,这个业务ID的特性是:
(1)对于同一个业务场景,全局唯一
(2)由业务消息发送方生成,业务相关,对MQ透明
(3)由业务消息消费方负责判重,以保证幂等
最常见的业务ID有:支付ID,订单ID,帖子ID等。
具体到支付购卡场景,发送方必须将支付ID放到消息体中,消费方必须对同一个支付ID进行判重,保证购卡的幂等。(数据库主键唯一索引)
有了这个业务ID,才能够保证下半场消息消费业务方即使收到重复消息,也只有1条消息被消费,保证了幂等。
三、总结
MQ为了保证消息必达,消息上下半场均可能发送重复消息,如何保证消息的幂等性呢?
上半场
MQ-client生成inner-msg-id,保证上半场幂等。
这个ID全局唯一,业务无关,由MQ保证。
下半场
业务发送方带入biz-id,业务接收方去重保证幂等。
这个ID对单业务唯一,业务相关,对MQ透明。
结论:幂等性,不仅对MQ有要求,对业务上下游也有要求。
客户端没有接到服务端ack会重发(自动),服务端没有接受到客户端ack消息会在队列中导致重复消费(主动调用)
相关推荐
基于层次消息总线的体系结构,在软件体系结构中,是一种很有趣的体系结构
软件体系结构作业 消息总线实现代码
消息总线文档管理
计算机的总线分为控制总线、地址总线和数据总线等三种。而数据总线 用于传送数据,控制总线用于传送控制信号, 地址总线则用于选择存储单元 或外设。 二、单片机的三总线结构 51 系列单片机具有完善的总线接口时序...
在日常生活中,我们几乎每天都在用USB总线,但是在低端一些的数字通信应用领域,I2C和SPI总线就像USB一样流行。今天我们就来介绍一下这两位大佬,谈谈它们之间的区别及联系。
依赖消息总线的分布式对象总线 跨平台分布式对象调用 原创,需程序猿才能理解
工业以太网、现场总线、工业无线是目前工业通信领域的三大主流技术。
ActiveMQ 企业消息总线(ESB)源代码 本代码包含ESB在实际项目中的应用例子。注意测试前请下载安装 apache-activemq-5.12.1
消息系统总线需求模板,一个模板,可以参考 需求模板,消息系统总线需求模板
service-bus, 支持CQRS的PHP轻量级消息总线 PSB - ProophServiceBus支持CQRS和微服务的PHP 7.1 轻量级消息总线 消息 APIprooph/服务总线是一个轻量级的消息传递 facade 。 它允许你用消息来定义你的模型的API 。
SpringCloud之八 消息总线SpringCloudBus.pdf,微服务中消息总线的使用处理
50多页超详细,ActiveMQ消息总线设计方案,包含各种消息队列技术对比
Prooph Service Bus - 轻量级消息总线支持CQRS和微服务
`RxEventHub` 是一个基于 `RxSwift` 的消息总线(类似于 NSNotificationCenter), 它使得广播事件变得简单、类型安全、尽可能少出错,很多情况下可以用于代替 `NSNotificationCenter`。
软件体系结构 消息总线风格 文档管理
文章为大家总结了现场总线与局域网的区别。
nanobus 微型消息总线
通讯总线问题的现场诊断,是一件非常考验技术员对于相关协议理论与实践相结合能力的事情,这次说一说RS485总线通讯的问题。而对通讯的故障进行分析和诊断之前,需要对RS485总线的一些基本概念有所了解。
计算机组成原理实验报告(系统总线和具有基本输入输出功能的总线接口实验).pdf计算机组成原理实验报告(系统总线和具有基本输入输出功能的总线接口实验).pdf计算机组成原理实验报告(系统总线和具有基本输入输出功能的...