这是我参与「第五届青训营 」伴学笔记创作活动的第 8 天
-
什么是分布式？
- 分布式系统定义：跨多个节点的计算机程序的集合
- 使用分布式系统的五大优势：去中心化、低成本、弹性、资源共享、可靠性高
- 分布式系统的挑战：故障、网络、环境、安全
-
常见的分布式系统
- 分布式存储：GFS、Ceph、HDFS、Zookeeper
- 分布式数据库：Spanner、TiDB、HBase、MangoDB
- 分布式计算：Hadoop、YARN、Spark
系统模型
故障模型
-
六种故障模型，从处理的难易程度分类
- Byzantine failure：节点可以任意篡改发送给其他节点的数据，是最难处理的故障
- Authentication detectable byzantine failure (ADB)：节点可以篡改数据，但不能伪造其他节点的数据
- Performance failure：节点未在特定时间段内收到数据，即时间太早或太晚
- Omission failure：节点收到数据的时间无限晚，即收不到数据
- Crash failure：节点停止响应，持续性的故障
- Fail-stop failure：错误可检测，是最容易处理的故障
-
故障模型举例，按照模型分类
- 磁盘、主板、交换机、网络分区、cpu、内存、线缆、电源等故障详细说明
CAP理论
-
CAP的定义，分别代表一致性、可用性、分区容错性。三者无法同时达到
-
CAP诞生了三类系统：
- CA系统：传统数据库的代表
- AP系统：放弃强一致性，保证高可用，不少nosql存储系统采用
- CP系统：放弃可用性，保证数据一致性
-
举例说明两个分布式进程之间同步数据，当出现故障的时候，如何选择不同的CAP系统，以及带来的影响
- CP系统：故障发生时，为了避免读到不一致的数据，可能拒绝访问
- AP系统：故障发生时，为了保证可用性，允许不同进程读到不同的数据
-
针对故障场景，可以通过故障转移的方式，做一个相对较优的解决方式：
- 允许一个进程作为Master，其他进程作为Backup，当故障时将请求转移给Backup进行处理
ACID理论
-
ACID理论是针对CA系统而言的，通常在数据库中具有广泛意义
-
事务是数据库系统中非常重要的概念，它是数据库管理系统执行过程中的一个逻辑单元，它能够保证一个事务中的所有操作要么全部执行，要么全都不执行
-
数据库事务拥有四个特性ACID：原子性（Atomicity）、一致性（Consistency）、隔离性（Isolation）和持久性（Durability）
分布式事务
二阶段提交
-
定义：
- 二阶段提交（Two-phase Commit）：为了使基于分布式系统架构下的所有节点在进行事务提交时保持一致性而设计的一种演算法。
-
三个假设：
- 协调者和参与者进行通信
- 预写式日志被保持在可靠的存储设备上
- 所有节点不会永久性损坏，即使损坏后仍然可以恢复
-
正常流程：Prepare阶段和Commit阶段
-
异常流程：Prepare阶段失败 -> 回滚；协调者宕机 -> 重新启用新的协调者；双故障重启 -> 数据库管理员介入
-
两阶段提交需解决的问题：
- 性能问题：需要多次网络通信，资源需要等待并锁定
- 新协调者：如何确定状态选出新协调者
- Commit阶段网络分区带来的数据不一致：非所有节点都收到Commit请求
-
两个思考：
- 日志被保存在「可靠」的存储设备上。如何保证这一点？
- 参与者Commit了，但Ack信息协调者没收到。怎么办？
三阶段提交
- 针对两阶段提交的补充，将两阶段提交中的Prepare阶段，拆成两部分：CanCommit和PreCommit机制
- CanCommit阶段：询问是否可以执行；PreCommit阶段：重新确认是否可以执行
- DoCommit阶段：向所有人提交事务
MVCC
-
MVCC：多版本并发控制的方法。维持一个数据的多个版本使读写操作没有冲突。所以既不会阻塞写，也不阻塞读。提高并发性能的同时也解决了脏读的问题。
-
悲观锁和乐观锁
- 悲观锁：操作数据时直接把数据锁住，直到操作完成后才会释放锁；上锁期间其他人不能修改数据
- 乐观锁：不会上锁，只是在执行更新时判断别人是否修改数据，只有冲突时才放弃操作
-
版本的选取：使用物理时钟或逻辑时钟
- 物理时钟：提供TrueTime API，有Master节点维持一个绝对时间，保证各个服务器之间时钟误差控制在ϵ内，通常ϵ<7ms。
- 逻辑时钟：中心化授时的方式--时间戳预言机（TSO），好处是无需硬件的支持
思考题
-
分布式系统有那些优势和挑战?
优势在于去中心化、将功能分布在不同设备降低成本、同时分布式这种模式可以根据需要扩容或缩容弹性、资源共享、利用冗余存储保证了可靠性。 存在的挑战在于分布式系统依赖网路通信传输，硬件的不确定，bug排查的困难等等 -
两将军问题为什么理论上永远达不成共识?
重复通信只能增加消息可信的概率, 无法达到100%的可信 -
为什么TCP采用三次握手? 而不是两次和四次?
三次握手验证了双端的发送(seq),接收响应能力(ack)。两次握手会导致资源浪费，a可能一直都没有接收到b的ack从而关闭。四次握手冗余验证。 -
为什么在4将军问题中, 增加一轮协商就可以对抗拜占庭故障?
通过可信信息的冗余来覆盖不可信信息 -
什么是最终一致性? 什么是线性一致性?
最终一致性: 写入过程中, 不保证所有节点读取数据的一致性, 只保证在有限时间内, 能将数据更新到所有节点上线性一致性: 又称强一致性，写入过程中, 如果有节点读取到新数据, 则强制同步到所有其他老节点上, 保证在读取到新数据后, 不会再读取到老数据
-
CAP理论中, 请举例说明可用性和一致性的矛盾?
- 在AP场景下, 网络产生分区, 为了保证可用性，允许不同进程读到不同的数据
- 在CP场景下, 网络产生分区, 为了避免读到不一致的数据，可能拒绝访问
-
ACID理论中的一致性和CAP理论中的一致性有什么区别?
CAP理论中的C注重多节点之间同一份数据的一致性, ACID中的C关注的是整体数据逻辑上的一致性 -
两阶段提交中, 什么场景需要数据库管理员介入?
两阶段提交中可能会出现预写入死锁, 或提交时机器宕机导致数据不一致, 此时需要管理员介入 -
三阶段提交缓和了两阶段提交的哪两个问题? 针对两阶段提交的补充，将两阶段提交中的Prepare阶段，拆成两部分：CanCommit和PreCommit机制，CanCommit阶段：询问是否可以执行；PreCommit阶段：重新确认是否可以执行。 解决了单点故障和阻塞问题
-
什么场景适合乐观锁? 什么场景适合悲观锁?
乐观锁使用与数据竞争较小的场景, 通常是读频繁, 避免反复加锁. 悲观锁适用于更新频繁的场景, 需要互斥保证更新的安全性 -
在共识协议中, 为什么说允许数据被覆盖会带来数据一致性问题
同一份数据被更新后没有同步到所有节点上, 可能读取到老的数据 -
RAFT协议中, Leader写成功日志Log20但未同步给Followers后发生宕机, Follower重新选举后产生一条新的日志Log20, 这时Leader重启, 整个系统发现两种不一样的Log20记录, 如何区分并拒绝掉前面的Log20?
Follower重新产生了一条新日志Log20, 此时Follower已经成为新Leader, 将log同步给其他Follower节点, 老Leader接收到新Leader的日志同步请求后, 降级为Follower, 并将自己原来的Log20更新为新的. -
RAFT协议中, Stale读是如何产生的? 该如何解决Stale读的问题
-
leader切换，旧Leader收到强求响应没有同步的日志,会导致这个问题。
-
基本思路是 leader 设置一个比选举超时（Election Timeout）更短的时间作为租期，在租期内我们可以相信其它节点一定没有发起选举，集群也就一定不会存在脑裂，所以在这个时间段内我们直接读主即可，而非该时间段内可以继续走 Read Index 流程，Read Index 的心跳包也可以为租期带来更新。
-
