这是我参与「第四届青训营 」笔记创作活动的第11天.
一、消息队列概述
1、消息队列应用场景
(1)MQ 消息通道
- 异步解耦:下游无需关注上游变化,只需递越即可。
- 削峰填谷:下游异常则上游数据先存储,待下游恢复后,在传给下游。
- 发布订阅:上游不需要知道下游有哪些业务方,只需下游递越
- EventBridge事件总线
- Data Platform流数据平台
(2)EventBridge数据总线
(3)Data Plotform 流数据平台
2、主流消息队列的相关介绍
二、Kafka详解
(1)架构介绍
1、Zookeeper
2、Broker
3、Controller选举
4、controller作用
5、coordinator
(2)kafka高可用
1、副本ISR机制
2、写入ACK机制
3、副本同步
4、副本选举
(3)kafka集群扩缩容
1、扩容步骤
2、缩容步骤
3、集群扩缩容问题
(4)kafka未来演进之路
1、kafka去除zk依赖
2、kafka依赖KRaft
(5)kafka运维/调优经验介绍
1、单机吞吐
2、集群参数配置
3、扩缩容优化
4、指标可视化
三、Pulsar详解
(1)架构介绍
1、pulsar Proxy
2、pulsar Broker
3、Pulsar Storage
4、pulsar IO 连接器
5、Pulsar Functions 轻量级计算框架
(2)Bookeeper整体架构
1、基本概念
2、BK新建Ledger
3、BK Ledger分布
4、BK写一致性
5、BK 读一致性
6、BK读写分离
7、BK with Pulsar
(3)Pulsar功能介绍
1、生产模式
2、消费模式
3、Exclusive 消费模式
4、Failover 消费模式
5、Shared 消费模式
6、Key_Shared消费模式
(4)Pulsar多租户
1、Pulsar Plugin
2、Pulsar GEO Relication
3、Pulsar HA& Scal-up
(5)Pulsar VS Kafka
1、存储计算分离
四、周边和生态
1、周边生态概览
2、Pulsar IO
3、Kafka Schema
4、Pulsar SQL