从Kafka到pulsar-数据流演进之路 |青训营笔记

83 阅读1分钟

这是我参与「第四届青训营 」笔记创作活动的第11天.

一、消息队列概述

1、消息队列应用场景

(1)MQ 消息通道

屏幕截图 2022-08-11 182314.jpg

  • 异步解耦:下游无需关注上游变化,只需递越即可。
  • 削峰填谷:下游异常则上游数据先存储,待下游恢复后,在传给下游。
  • 发布订阅:上游不需要知道下游有哪些业务方,只需下游递越
  • EventBridge事件总线
  • Data Platform流数据平台

(2)EventBridge数据总线

屏幕截图 2022-08-15 120726.jpg (3)Data Plotform 流数据平台

屏幕截图 2022-08-15 121107.jpg

2、主流消息队列的相关介绍

屏幕截图 2022-08-15 121249.jpg

二、Kafka详解

(1)架构介绍

屏幕截图 2022-08-15 121544.jpg 1、Zookeeper

屏幕截图 2022-08-15 121652.jpg 2、Broker

屏幕截图 2022-08-15 121737.jpg 3、Controller选举

屏幕截图 2022-08-15 121822.jpg 4、controller作用

屏幕截图 2022-08-15 121925.jpg 5、coordinator

屏幕截图 2022-08-15 122013.jpg

(2)kafka高可用

屏幕截图 2022-08-15 122102.jpg 1、副本ISR机制

屏幕截图 2022-08-15 122145.jpg 2、写入ACK机制

屏幕截图 2022-08-15 122223.jpg 3、副本同步

屏幕截图 2022-08-15 122308.jpg 4、副本选举

屏幕截图 2022-08-15 122349.jpg

(3)kafka集群扩缩容

屏幕截图 2022-08-15 122505.jpg 1、扩容步骤

屏幕截图 2022-08-15 122554.jpg 2、缩容步骤

屏幕截图 2022-08-15 122610.jpg 3、集群扩缩容问题

屏幕截图 2022-08-15 122716.jpg

(4)kafka未来演进之路

屏幕截图 2022-08-15 122808.jpg 1、kafka去除zk依赖

屏幕截图 2022-08-15 122855.jpg 2、kafka依赖KRaft

屏幕截图 2022-08-15 122943.jpg

(5)kafka运维/调优经验介绍

1、单机吞吐

屏幕截图 2022-08-15 123148.jpg 2、集群参数配置

屏幕截图 2022-08-15 123221.jpg 3、扩缩容优化

屏幕截图 2022-08-15 123311.jpg 4、指标可视化

屏幕截图 2022-08-15 123344.jpg

三、Pulsar详解

(1)架构介绍

屏幕截图 2022-08-15 123446.jpg 1、pulsar Proxy

屏幕截图 2022-08-15 123531.jpg 2、pulsar Broker

屏幕截图 2022-08-15 123607.jpg 3、Pulsar Storage

屏幕截图 2022-08-15 123653.jpg

屏幕截图 2022-08-15 123728.jpg 4、pulsar IO 连接器

屏幕截图 2022-08-15 123813.jpg 5、Pulsar Functions 轻量级计算框架

屏幕截图 2022-08-15 123931.jpg

(2)Bookeeper整体架构

屏幕截图 2022-08-15 124022.jpg 1、基本概念

屏幕截图 2022-08-15 124104.jpg 2、BK新建Ledger

屏幕截图 2022-08-15 124143.jpg 3、BK Ledger分布

屏幕截图 2022-08-15 124228.jpg 4、BK写一致性

屏幕截图 2022-08-15 124314.jpg 5、BK 读一致性

屏幕截图 2022-08-15 124817.jpg 6、BK读写分离

屏幕截图 2022-08-15 124901.jpg 7、BK with Pulsar

屏幕截图 2022-08-15 124951.jpg

(3)Pulsar功能介绍

1、生产模式

屏幕截图 2022-08-15 125035.jpg 2、消费模式

屏幕截图 2022-08-15 125119.jpg 3、Exclusive 消费模式

屏幕截图 2022-08-15 125205.jpg 4、Failover 消费模式

屏幕截图 2022-08-15 125241.jpg 5、Shared 消费模式

屏幕截图 2022-08-15 125322.jpg 6、Key_Shared消费模式

屏幕截图 2022-08-15 125359.jpg

(4)Pulsar多租户

屏幕截图 2022-08-15 125438.jpg 1、Pulsar Plugin

屏幕截图 2022-08-15 125534.jpg 2、Pulsar GEO Relication

屏幕截图 2022-08-15 125622.jpg 3、Pulsar HA& Scal-up

屏幕截图 2022-08-15 125714.jpg

屏幕截图 2022-08-15 125749.jpg (5)Pulsar VS Kafka

屏幕截图 2022-08-15 125900.jpg 1、存储计算分离

屏幕截图 2022-08-15 125938.jpg

四、周边和生态

1、周边生态概览

屏幕截图 2022-08-15 130040.jpg 2、Pulsar IO

屏幕截图 2022-08-15 130121.jpg 3、Kafka Schema

屏幕截图 2022-08-15 130158.jpg 4、Pulsar SQL

屏幕截图 2022-08-15 130235.jpg