这是我参与「第五届青训营 」伴学笔记创作活动的第 13 天
消息队列
-
TIB诞生于1985年,服务于金融机构和新闻机构
-
1993,IBM MQ 商业消息队列平台市场主要玩家
-
1997,微软,MSMQ
-
2001,JMS本质上是一套java api
-
2004,rabbitmq
-
2010 由linked开源,kafka
-
2011 阿里团队的rocketmq
-
2012 Pulsar诞生于Yahoo内部
-
kafka:分布式的、分区的、多副本的日志提交服务,在高吞吐场景下发挥较为出色。
-
RocketMq:低延迟、强一致、高性能、高可靠、万亿级存储和灵活的可扩展性,在一些事实场景中运用较广。
-
pulsar 是下一代云原生分布式消息流平台,集消息、存储、轻量化函数式计算为一体、村用存算分离的架构设计。
-
BMQ 和pulsar架构类似,存算分离,初期定位是承接高吞吐量的离线业务场景,逐步替换掉对应的kafka集群。
保证对于任意分片在同一时刻只能在一个broker上面存活。broker-partition状态机。 kafka:producer,批量发送、数据压缩。broker,顺序写,消息索引,零拷贝。consumer,rebalance机制。
使用场景:搜索服务、直播服务、订单服务、支付服务。用户行为:搜索、点赞、评论、收藏。
如何使用kafka:创建集群、新增topic、编写生产者逻辑、编写消费者逻辑。
基本概念:topic 逻辑队列,不同的topic可以建立不同的topic。Cluster,物理集群,每个集群中可以建立多个不同的topic。producer,生产者,负责将业务消息发送到topic当中。Consummer消费者,负责消费topic中的消息。ConsummerGroup,消费者组,不同组的consummer消费进度互不干预.
kafaka重启操作:关闭重启、leader切换,追赶数据、数据同步完成、leader回切。
kafka的问题:数据赋值问题。
个人收获:通过这节课的学习,了解了消息队列的用处,知道了当下主流的消息队列,以及各自的优缺点和使用场景。希望在接下来的项目当中用上消息队列。