消息队列 | 青训营笔记

34 阅读2分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第18天

消息队列

消息队列可以看成一个存放消息的容器,当我们需要使用消息的时候,直接从容器中取出消息供自己使用即可。消息队列是分布式系统中重要的组件之一。使用消息队列主要是为了通过异步处理提高系统性能和削峰、降低系统耦合性。将用户的请求数据存储到消息队列之后就立即返回结果。随后,系统再对消息进行消费。

削峰/限流

先将短时间高并发产生的事务消息存储在消息队列中,然后后端服务再慢慢根据自己的能力去消费这些消息,这样就避免直接把后端服务打垮掉。

降低系统耦合性

使用消息队列还可以降低系统耦合性。我们知道如果模块之间不存在直接调用,那么新增模块或者修改模块就对其他模块影响较小。

Kafka

我们常用的消息队列是Kafka。它有两大应用场景,分别是消息队列和数据处理。和其他的消息队列相比,kafka的性能更好,兼容性更好。

  • 基本概念

    • Topic:逻辑队列,不同Topic可以建立不同的Topic
    • Cluster:物理集群。每个集群中可以建立多个不同的Topic
    • Producer:生产者,负责将业务消息发送到Topic中
    • Consumer:消费者,负责消费Topic中的消息
    • ConsumerGroup:消费者组,不同组 Consumer消费进度互不干涉
    • Offset:消息在 partition内的相对位置信息,可以理解为唯一ID,在 partition内部严格递增。
    • Replica: 每个分片有多个 Replica,Leader Replica将会从ISR(In-Sync Replicas)中选出。
  • 可以帮助Kafka提高吞吐或者稳定性的功能

    • Producer:批量发送、数据压缩

    • Broker:顺序写,消息索引,零拷贝

    • Consumer:Rebalance