消息记录能解决哪些疑难杂症
先来介绍下当引入了”消息记录“功能后,能解决哪些问题?
有了"消息记录",具体能解决什么问题
解决问题1:用 messageTraceId 把12跳串成完整链路
机制
- 第①跳开始时生成一个唯一的
messageTraceId(比如10001)。 - 后续的②③④⑤⑥⑦⑧⑨⑩⑪⑫跳的所有发送记录与消费记录,都携带相同的
messageTraceId = 10001。 - 数据库中按
messageTraceId查询,可以一次性拿到这12跳的全部记录。
效果
- 宕机重启后,查询
messageTraceId = 10001的记录,立即知道"已完成到第⑥跳,第⑦跳的消息已发送但未消费成功",可以精准恢复或补发。 - 运维可以按链路查看进度:"视频A的升级进行到第8跳,视频B还在第3跳"。
实例
messageTraceId: 10001
① 视频+日 [发送成功] [消费成功]
② 视频+周 [发送成功] [消费成功]
...
⑥ 视频分类+周 [发送成功] [消费成功]
⑦ 视频分类+月 [发送成功] [消费失败] ← 断点在这里!
解决问题2:用 messageId 实现幂等,避免重复计算
机制
- 第③跳"视频+月"的消息发送前,先生成唯一的
messageId(比如20003),并写入MessageProducerRecord。 - 消费端收到后,先查询
messageId = 20003的MessageConsumerRecord:- 若记录存在且状态为"消费成功",直接 ack 跳过,不执行聚合逻辑。
- 若不存在或状态为"失败",才执行聚合并更新为"成功"。
效果
- Kafka 重复投递第③跳的消息时,消费端识别出"已处理",不会重复累加播放量。
- 实现效果上的 exactly-once,保障数据准确性。
实例
第一次消费:
messageId: 20003 → 插入消费记录,状态"成功" → 执行聚合
第二次投递(重复):
messageId: 20003 → 查到已成功 → 直接 ack,跳过聚合
解决问题3:用业务维度快照识别乱序与错位
付费内容提示
该文档的全部内容仅对「JavaUp项目实战&技术讲解」知识星球用户开放
加入星球后,你可以获得:
- 超级八股文:100万+字的全栈技术知识库,涵盖技术核心、数据库、中间件、分布式等深度剖析的讲解
- 讲解文档:黑马点评Plus、大麦、大麦pro、大麦AI、流量切换、数据中台的从0到1的550+详细文档
- 讲解视频:黑马点评Plus、大麦、大麦pro、大麦AI、流量切换、数据中台的核心业务详细讲解
- 1 对 1 解答:可以对我进行1对1的问题提问,而不仅仅只限于项目
- 针对性服务:有没理解的地方,文档或者视频还没有讲到可以提出,本人会补充
- 面试与简历指导:提供面试回答技巧,项目怎样写才能在简历中具有独特的亮点
- 中间件环境:对于项目中需要使用的中间件,可直接替换成我提供的云环境
- 面试后复盘:小伙伴去面试后,如果哪里被面试官问住了,可以再找我解答
- 远程的解决:如果在启动项目遇到问题,本人可以帮你远程解决
进入星球后,即可享受上述所有服务,保证不会再有其他隐藏费用。
