消息队列|青训营笔记

80 阅读2分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 13 天

消息队列

  • TIB诞生于1985年,服务于金融机构和新闻机构

  • 1993,IBM MQ 商业消息队列平台市场主要玩家

  • 1997,微软,MSMQ

  • 2001,JMS本质上是一套java api

  • 2004,rabbitmq

  • 2010 由linked开源,kafka

  • 2011 阿里团队的rocketmq

  • 2012 Pulsar诞生于Yahoo内部

  • kafka:分布式的、分区的、多副本的日志提交服务,在高吞吐场景下发挥较为出色。

  • RocketMq:低延迟、强一致、高性能、高可靠、万亿级存储和灵活的可扩展性,在一些事实场景中运用较广。

  • pulsar 是下一代云原生分布式消息流平台,集消息、存储、轻量化函数式计算为一体、村用存算分离的架构设计。

  • BMQ 和pulsar架构类似,存算分离,初期定位是承接高吞吐量的离线业务场景,逐步替换掉对应的kafka集群。

保证对于任意分片在同一时刻只能在一个broker上面存活。broker-partition状态机。 kafka:producer,批量发送、数据压缩。broker,顺序写,消息索引,零拷贝。consumer,rebalance机制。

使用场景:搜索服务、直播服务、订单服务、支付服务。用户行为:搜索、点赞、评论、收藏。

如何使用kafka:创建集群、新增topic、编写生产者逻辑、编写消费者逻辑。

基本概念:topic 逻辑队列,不同的topic可以建立不同的topic。Cluster,物理集群,每个集群中可以建立多个不同的topic。producer,生产者,负责将业务消息发送到topic当中。Consummer消费者,负责消费topic中的消息。ConsummerGroup,消费者组,不同组的consummer消费进度互不干预.

kafaka重启操作:关闭重启、leader切换,追赶数据、数据同步完成、leader回切。

kafka的问题:数据赋值问题。

个人收获:通过这节课的学习,了解了消息队列的用处,知道了当下主流的消息队列,以及各自的优缺点和使用场景。希望在接下来的项目当中用上消息队列。