这是我参与「第五届青训营 」笔记创作活动的第7天
本堂课的重点
- 分布式概述
- 系统模型
- 理论基础
- 分布式事务
分布式概述
分布式系统是计算机程序的集合,这些程序利用跨多个独立计算节点的计算资源来实现共同的目标。可以分为分布式计算、分布式存储、分布式数据库等。
优势: 挑战:
1.去中心化 1.普遍的节点故障
2.低成本 2.不可靠的网络
3.弹性 3.异构的机器与硬件环境
4.资源共享 4.安全
5.可靠性高
系统模型
故障模型
拜占庭将军问题
引入:两将军问题(Two Generals' Problem):两支军队的将军只能派信使穿越敌方领土互相通信,以此约定进攻时间。该问题希望求解如何在两名将军派出的任何信使都可能被俘虏的情况下,就进攻时间达成共识。
结论是,两将军问题是被证实无解的电脑通信问题,两支军队理论上永远无法达成共识。
方案一:同时发送N个信使,任何一个达到对方军队,都算成功。
方案二:设置超时时间,发送后未在一定时间返回,则加派信使。
共识与消息传递的不同:即使保证了消息传递成功,也不能保证达成共识
TCP三次握手是在两个方向确认包的序列号,增加了超时重试,是两将军问题的一个工程解。
拜占庭将军考虑更加普适的场景,例如3个将军ABC互相传递消息,消息可能丢失,也可能被篡改,当有一个将军是“叛徒”(即出现拜占庭故障)时,整个系统无法达成一致。 如果没有“叛徒”,无论各自观察到怎样的敌情,总能达成一致的行动。
由于“叛徒”C的存在,将军A和将军B获得不同的信息。这样将军A获得2票进攻1票撤退的信息,将军B获得1票进攻2票撤退的信息,产生了不一致。
考虑当4个将军,只有1个叛徒的场景。将军D作为消息分发中枢,约定如果没收到消息则执行撤退。
- 如果D为“叛徒”,ABC无论收到任何消息,总能达成一致
- D为“忠将”,ABC有2人将D的消息进行正确的传递,同样能保证最终决策符合大多数。
进而能够证明,当有3m+1个将军,其中m个“叛徒”时,可以增加m轮协商,最终达成一致
共识和一致性
客户端A读到x=0,当客户端C正在写入时,客户端A和B可能读到0或者1。但是当C写入完成后,A和B最终能读到一致的数据。我们称这样的一致性为Eventually consistent(最终一致性)
当客户端A读到更新的版本x=1后,及时将消息同步给其他客户端,这样其他客户端立即能获取到x=1。我们称这样的一致性为Linearizability (线性一致性)
如果要保证“线性”一致性,多个节点间势必需要进行协商,以寻求一致。这样增加了延迟,系统可用性便会受损
时间和事件顺序
1978年Leslie Lamport发表在Communications of the ACM上的论文Time, Clocks, and the Ordering of Events in a Distributed System
我们定义“happened before”关系,记为"→"。其满足如下三个条件:
- 如果a和b 是在相同节点上的两个事件,a在b之前发生,则定义:a→b
- 如果事件a表示某个节点发送某条消息,b是另一个节点接受这条消息,则有a→b
- 如果有a→b 且b→c,则有a→c
当且仅当a>b 且b>a时,我们称两个事件为并发的(concurrent)。
我们不难在图中找到若干满足条件的事件对,例如p1一r4,其由p1→q2→q4→r3→r4推导而来
理论基础
CAP理论
CAP理论往往运用于数据库领域,同样可以适用于分布式存储方向
ACID理论
事务是数据库系统中非常重要的概念,它是数据库管理系统执行过程中的一个逻辑单元,它能够保证一个事务中的所有操作要么全部执行,要么全都不执行。
数据库事务拥有四个特性ACID,即分别是原子性(Atomicity)、一致性(Consistency)、隔离性(lsolation)和持久性(Durability)
原子性(A)。原子性是指事务包含的所有操作要么全部成功,要么全部失败回滚。
一致性(C)。一致性是指事务必须使数据库从一个一致性状态变换到另一个一致性状态,也就是说一个事务执行之前和执行之后都必须处于一致性状态
隔离性(I)。隔离性是当多个用户并发访问数据库时,数据库为每一个用户开启的事务,不能被其他事务的操作所干扰,多个并发事务之间要相互隔离
持久性(D)。持久性是指一个事务一旦被提交了,那么对数据库中的数据的改变就是永久性的,即便是在数据库系统遇到故障的情况下也不会丢失提交事务的操作。
BASE理论
Base理论是对CAP中一致性和可用性权衡的结果,其来源于对大型互联网分布式实践的总结,是基于CAP定理逐步演化而来的。其核心思想是:
Basically Available(基本可用):假设系统,出现了不可预知的故障,但还是能用,相比较正常的系统而言:响应时间上的损失,或功能上的损失
Soft state(软状态)∶允许系统中的数据存在中间状态,并认为该状态不影响系统的整体可用性,即允许系统在多个不同节点的数据副本存在数据延时。
Eventually consistent(最终一致性)︰系统能够保证在没有其他新的更新操作的情况下,数据最终一定能够达到一致的状态,因此所有客户端对系统的数据访问最终都能够获取到最新的值。
分布式事务
二阶段提交
二阶段提交(Two-phase Commit):为了使基于分布式系统架构下的所有节点在进行事务提交时保持一致性而设计的—种演算法。
三个假设: 1.引入协调者(Coordinator)和参与者(Participants),互相进行网络通信
⒉.所有节点都采用预写式日志,且日志被写入后即被保持在可靠的存储设备上
3.所有节点不会永久性损坏,即使损坏后仍然可以恢复
可能出现的情况:
情况1)Coordinator不宕机,Participant宕机。如下图所示,需要进行回滚操作
情况2)Coordinator宕机,Participant不宕机。可以起新的协调者,待查询状态后,重复二阶段提交
情况3)Coordinator宕机,Participant宕机。
回滚:在Prepare阶段,如果某个事务参与者反馈失败消息,说明该节点的本地事务执行不成功,必须回滚。
注意:情况3∶无法确认状态,需要数据库管理员的介入,防止数据库进入一个不一致的状态。
两阶段提交需注意的问题:
1.性能问题
两阶段提交需要多次节点间的网络通信,耗时过大,资源需要进行锁定,徒增资源等待时间。
2.协调者单点故障问题
如果事务协调者节点宕机,需要另起新的协调者,否则参与者处于中间状态无法完成事务。
3.网络分区带来的数据不一致
一部分参与者收到了Commit消息,另一部分参与者没收到Commit消息,会导致了节点之间数据不一致。
三阶段提交
将两阶段提交中的Prepare阶段,拆成两部分:CanCommit和PreCommit机制
解决了两个问题:
1.单点故障问题
2.阻塞问题
另外引入超时机制,在等待超时之后,会继续进行事务的提交。
MVVC
MVCC是一种并发控制的方法,维持一个数据的多个版本使读写操作没有冲突。所以既不会阻塞写,也不阻塞读。MVCC为每个修改保存一个版本,和事务的时间戳相关联。可以提高并发性能,解决脏读的问题。
Spanner论文里通过TrueTime API提供一个物理时钟的方式。服务器时钟偏差在1到7ms之间。
S1提交事务时间:s1 = max(15,7 +7)= 15ms
S2提交事务时间:s2 = max(13,12+7)= 19ms
另外一种时间戳的实现:时间戳预言机(TSO),采用中心化的授时方式,所有协调者向中心化节点获取时钟。优点是算法简单,实现方便,但需要每个节点都与他进行交互,会产生一些网络通信的成本。TSO的授时中就需要考虑低延迟,高性能以及更好的容错性。
共识协议
Quorum NWR模型
Quorum NWR三要素
N:在分布式存储系统中,有多少份备份数据
W:代表一次成功的更新操作要求至少有w份数据写入成功
R:代表一次成功的读数据操作要求至少有R份数据成功读取
为了保证强一致性,需要保证W+R>N
RAFT协议
Raft协议是一种分布式一致性算法(共识算法),即使出现部分节点故障,网络延时等情况,也不影响各节点,进而提高系统的整体可用性。Raft是使用较为广泛的分布式协议。一定意义上讲,RAFT也使用了Quorum机制。
Leader -领导者,通常一个系统中是一主(Leader)多从(Follower) .Leader负责处理所有的客户端请求,并向Follower同步请求日志,当日志同步到大多数节点上后,通知Follower提交日志。
Follower -跟随者,不会发送任何请求。接受并持久化Leader同步的日志,在Leader告知日志可以提交后,提交日志。当Leader出现故障时,主动推荐自己为Candidate。
Candidate -备选者,Leader选举过程中的临时角色。向其他节点发送请求投票信息。如果获得大多数选票,则晋升为Leader。
状态图
Paxos协议
Paxos算法与RAFT算法区别:
- Multi-Paxos可以并发修改日志,而Raft写日志操作必须是连续的
2.Multi-Paxos可以随机选主,不必最新最全的节点当选Leader
Paxos优势:写入并发性能高,所有节点都能写入
Paxos劣势:没有一个节点有完整的最新的数据,恢复流程复杂,需要同步历史记录
个人总结
经过这一天的学习,我学习到GO语言中分布式的理念,对内部的故障有了明确的划分以及分布式的划分情况有了认识。