分布式理论-现代架构基石 | 青训营笔记
这是我参与「第五届青训营 」笔记创作活动的第8天
今天主要对分布式理论的内容进行学习。
一、本堂课重点内容:
本次课程讲了以下几个方面:
1.分布式概述
2.系统模型
3.理论基础
4.分布式事务
5.共识协议
6.分布式实践
二、详细知识点介绍:
1.分布式概述
分布式系统是计算机程序的集合,这些程序利用跨多个独立计算节点的计算资源来实现共同的目标。可以分为分布式计算、分布式存储、分布式数据库等。目前分布式的优势有:去中心化、低成本、弹性、资源共享、可靠性高等,所面临的挑战有:普遍的节点故障、不可靠的网络、异构的机器与硬件环境、安全等。 目前常见的分布式系统有分布式存储、分布式数据库、分布式计算等。
2.系统模型
a.故障模型
- Byzantine failure:节点可以任意篡改发送给其他节点的数据
- Authentication detectable byzantine failure(ADB): Byzantine failure的特例;节点可以篡改数据,但不能伪造其他节点的数据
- Performance failure:节点未在特定时间段内收到数据,即时间太早或太晚
- Omission failure:节点收到数据的时间无限晚,即收不到数据
- Crash failure:在omission failure的基础上,增加了节点停止响应的假设,也即持续性地omission failure
- Fail-stop failure:在Crash failure的基础上增加了错误可检测的假设
b.拜占庭将军问题
两将军问题(Two Generals' Problem):两支军队的将军只能派信使穿越敌方领十互相通信,以此约定进攻时间。该问题希望求解如何在两名将军派出的任何信使都可能被俘虏的情况下,就进攻时间达成共识。
c.共识一致性以及时间和顺序 不同客户端A和B看到客户端C写入,因为时机的不同,产生数据读取的偏差。引导出最终一致性的详细说明。要保证所有客户端看到相同的值,需要多节点进行“协商”,达成共识,来保证线性一致性。
3.理论基础
a.CAP理论
CAP的定义,分别代表一致性、可用性、分区容错性。三者无法同时达到
CAP诞生了三类系统:
CA系统:传统数据库的代表 AP系统:放弃强一致性,保证高可用,不少nosql存储系统采用 CP系统:放弃可用性,保证数据一致性
b.ACID理论
ACID理论是针对CA系统而言的,通常在数据库中具有广泛意义。事务是数据库系统中非常重要的概念,它是数据库管理系统执行过程中的一个逻辑单元,它能够保证一个事务中的所有操作要么全部执行,要么全都不执行数据库事务拥有四个特性ACID:原子性(Atomicity)、一致性(Consistency)、隔离性(Isolation)和持久性(Durability)
c.BASE理论
BASE理论是针对AP系统而言的,其来源于对大型互联网分布式实践的总结。
Basically Available(基本可用):假设系统,出现了不可预知的故障,但还是能用
Soft state(软状态):允许系统中的数据存在中间状态,并认为该状态不影响系统的整体可用性
Eventually consistent(最终一致性):数据最终一定能够达到一致的状态
4.分布式事务
a.二阶段提交
二阶段提交(Two-phase Commit):为了使基于分布式系统架构下的所有节点在进行事务提交时保持一致性而设计的一种演算法。在使用二阶段提交时,需要我们满足以下假设:
- 1.协调者和参与者进行通信
- 2.预写式日志被保持在可靠的存储设备上
- 3.所有节点不会永久性损坏,即使损坏后仍然可以恢复
其中二阶段分别是Prepare阶段和Commit阶段,如下图:
b.三阶段提交
- 针对两阶段提交的补充,将两阶段提交中的Prepare阶段,拆成两部分:CanCommit和PreCommit机制
- CanCommit阶段:询问是否可以执行;PreCommit阶段:重新确认是否可以执行
- DoCommit阶段:向所有人提交事务
c.MVCC
MVCC是一个多版本并发控制的方法。维持一个数据的多个版本使读写操作没有冲突。所以既不会阻塞写,也不阻塞读。提高并发性能的同时也解决了脏读的问题。
5.共识协议
a.RAFT协议
Raft协议是一种分布式一致性算法(共识算法),即使出现部分节点故障,网络延时等情况,也不影响各节点,进而提高系统的整体可用性。Raft是使用较为广泛的分布式协议。Raft协议将节点分为三种类型,分别是领导者、跟随者、备选者。具体可以参考地址。
b.Paxos协议
- Paxos算法与RAFT算法区别:
- Multi-Paxos 可以并发修改日志,而Raft写日志操作必须是连续的
- Multi-Paxos 可以随机选主,不必最新最全的节点当选Leader
- 优劣势
- 优势:写入并发性能高,所有节点都能写
- 劣势:没有一个节点有完整的最新的数据,恢复流程复杂,需要同步历史记录 具体参考地址。
三、课后个人总结:
通过对分布式理论的相关内容进行学习,在我看来,无论我们是一个架构师还是普通程序开发人员,在设计或者开发系统的时候,我们不可避免的要在CAP中做出权衡。根据实际需求,选择最适合自己的方案。