这是我参与「第五届青训营 」伴学笔记创作活动的第18天
消息队列
消息队列可以看成一个存放消息的容器,当我们需要使用消息的时候,直接从容器中取出消息供自己使用即可。消息队列是分布式系统中重要的组件之一。使用消息队列主要是为了通过异步处理提高系统性能和削峰、降低系统耦合性。将用户的请求数据存储到消息队列之后就立即返回结果。随后,系统再对消息进行消费。
削峰/限流
先将短时间高并发产生的事务消息存储在消息队列中,然后后端服务再慢慢根据自己的能力去消费这些消息,这样就避免直接把后端服务打垮掉。
降低系统耦合性
使用消息队列还可以降低系统耦合性。我们知道如果模块之间不存在直接调用,那么新增模块或者修改模块就对其他模块影响较小。
Kafka
我们常用的消息队列是Kafka。它有两大应用场景,分别是消息队列和数据处理。和其他的消息队列相比,kafka的性能更好,兼容性更好。
-
基本概念
- Topic:逻辑队列,不同Topic可以建立不同的Topic
- Cluster:物理集群。每个集群中可以建立多个不同的Topic
- Producer:生产者,负责将业务消息发送到Topic中
- Consumer:消费者,负责消费Topic中的消息
- ConsumerGroup:消费者组,不同组 Consumer消费进度互不干涉
- Offset:消息在 partition内的相对位置信息,可以理解为唯一ID,在 partition内部严格递增。
- Replica: 每个分片有多个 Replica,Leader Replica将会从ISR(In-Sync Replicas)中选出。
-
可以帮助Kafka提高吞吐或者稳定性的功能
-
Producer:批量发送、数据压缩
-
Broker:顺序写,消息索引,零拷贝
-
Consumer:Rebalance
-