消息队列 | 青训营笔记

53 阅读2分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 12 天

笔记

  • 本堂课的知识要点有哪些

1.消息队列的概念

2.Kafka

  • 本堂课介绍了哪些知识点?

消息队列 (MQ):指保存消息的一个容器,本质是个队列。但这个队列呢,需要支持高吞吐,高并发,并且高可用。

katka Kafka:分布式的、分区的、多副本的日志提交服务,在高吞吐场景下发挥较为出色

RocketMQ:低延迟、强一致、高性能、高可靠、万亿级容量和灵活的可扩展性,在一些实时场景中运用较广

PULSAR pulsar:是下一代云原生分布式消息流平台,集消息、存储、轻量化西数式计算为一体、采用存算分离的架构设计

BMQ:和Pulsar架构类似,存算分离,初期定位是承接高吞吐的离线业务场景,逐步 替换掉对应的Kafka集群

Kafka概念:

Topic:逻辑队列,不同Topic 可以建立不同的 Topic

Cluster:物理集群,每个集群中可以建立多个不同的 Topic

Producer:生产者,负责将业务消息发送到 Topic中

Consumer :消费者,负责消费 Topic 中的消息

ConsumerGroup: 消费者组,不同组 Consumer 消费进度互不干涉

Offset :消息在 partition 内的相对位置信息,可以理解为唯—D,在partition 内部严格递增。

replica:每个分片有多个 Replica, Leader Replica 将会从 ISR 中选出。

Producer :批量发送、数据压缩

Broker:顺序写,消息素引,零拷贝

Consumer: Rebalance

Kafka缺点:

  1. 运维成本高

2.对于负载不均衡的场景,解决方案复杂

  1. 没有自己的缓存,完全依赖 Page Cache

  2. Controller 和 Coordinator和Broker 在同一进程中,大量10会造成其性能下降

前世今生:消息队列发展历程

kafka:基本概念、架构设计、底层原理、架构缺点

BMQ:

架构设计、底层原理、Kafka 比较、高级特性

RocketMQ:架构设计、底层原理 高级特性

  • 本章有什么知识点不易掌握?

消息队列的使用需要注重实践,熟能生巧,难度不高