分布式 ｜ 青训营笔记

Enthushtism_
63 阅读6分钟

分布式 ｜ 青训营笔记

这是我参与「第五届青训营 」伴学笔记创作活动的第 12 天，主要记录相关的知识点。

（补档）

本堂课重点内容

  • 分布式概念
  • 系统模型
  • 理论基础
  • 分布式事务
  • 共识协议

分布式概念

什么是分布式？

分布式指的是跨多个节点的计算机程序的集合，这些程序利用跨多个独立计算节点的计算资源来实现共同的目标。

具体可以分为：分布式数据库，分布式存储，分布式计算等。

  • 使用分布式系统的五大优势：去中心化、低成本、弹性、资源共享、可靠性高
  • 分布式系统的挑战：故障、网络、环境、安全

为什么需要分布式？

  • 从使用者角度：
    • 大规模计算存储的述求，成本低，构建在廉价的服务器之上
    • 利用分布式框架与成熟的分布式系统
    • 理清规模、负载、一致性要求等，明确稳定性要求，制定技术方案
  • 从学习者角度：
    • 后端开发必备技能，理清后台服务器运行协作的基本原理
    • 了解分布式理论与一致性协议
    • 结合实践

常见的分布式系统

  • 分布式存储：GFS、Ceph、HDFS、Zookeeper
  • 分布式数据库：Spanner、TiDB、HBase、MangoDB
  • 分布式计算：Hadoop、YARN、Spark

系统模型

故障模型

主要有六种故障模型，从处理的难易程度分类

  • Byzantine failure：节点可以任意篡改发送给其他节点的数据，是最难处理的故障

  • Authentication detectable byzantine failure (ADB)：节点可以篡改数据，但不能伪造其他节点的数据

  • Performance failure：节点未在特定时间段内收到数据，即时间太早或太晚

  • Omission failure：节点收到数据的时间无限晚，即收不到数据

  • Crash failure：节点停止响应，持续性的故障

  • Fail-stop failure：错误可检测，是最容易处理的故障

共识和一致性

  • 不同客户端A和B看到客户端C写入，因为时机的不同，产生数据读取的偏差。引导出最终一致性的详细说明
  • 要保证所有客户端看到相同的值，需要多节点进行“协商”，达成共识，来保证线性一致性（即强一致性）
  • 一致性和可用性是对矛盾

理论基础

CAP理论

CAP，分别代表一致性、可用性、分区容错性。三者无法同时达到

CAP诞生了三类系统：

  • CA系统：传统数据库的代表
  • AP系统：放弃强一致性，保证高可用，不少nosql存储系统采用
  • CP系统：放弃可用性，保证数据一致性

针对故障场景，可以通过故障转移（主从节点）的方式，做一个相对较优的解决方式：

  • 允许一个进程作为Master，其他进程作为Backup，当故障时将请求转移给Backup进行处理

ACID理论

ACID理论是针对CA系统而言的，通常在数据库中具有广泛意义

  • 事务是数据库系统中非常重要的概念，它是数据库管理系统执行过程中的一个逻辑单元，它能够保证一个事务中的所有操作要么全部执行，要么全都不执行
  • 数据库事务拥有四个特性ACID：原子性（Atomicity）、一致性（Consistency）、隔离性（Isolation）和持久性（Durability）

image.png

BASE理论

BASE理论是针对AP系统而言的，其来源于对大型互联网分布式实践的总结

  • Basically Available(基本可用)：假设系统，出现了不可预知的故障，但还是能用
  • Soft state（软状态）：允许系统中的数据存在中间状态，并认为该状态不影响系统的整体可用性
  • Eventually consistent（最终一致性）：数据最终一定能够达到一致的状态

分布式事务

二阶段提交

二阶段提交（Two-phase Commit）：为了使基于分布式系统架构下的所有节点在进行事务提交时保持一致性而设计的一种演算法。

  • 三个假设：

    • 协调者和参与者进行通信
    • 预写式日志被保持在可靠的存储设备上
    • 所有节点不会永久性损坏，即使损坏后仍然可以恢复

包括：Prepare阶段和Commit阶段

三阶段提交

  • 针对两阶段提交的补充，将两阶段提交中的Prepare阶段，拆成两部分：CanCommit和PreCommit机制
  • CanCommit阶段：询问是否可以执行；PreCommit阶段：重新确认是否可以执行
  • DoCommit阶段：向所有人提交事务

MVCC

是一个多版本并发控制的方法。维持一个数据的多个版本使读写操作没有冲突。所以既不会阻塞写，也不阻塞读。提高并发性能的同时也解决了脏读的问题。

悲观锁和乐观锁

  • 悲观锁：操作数据时直接把数据锁住，直到操作完成后才会释放锁；上锁期间其他人不能修改数据
  • 乐观锁：不会上锁，只是在执行更新时判断别人是否修改数据，只有冲突时才放弃操作

版本的选取：使用物理时钟或逻辑时钟

  • 物理时钟：提供TrueTime API，有Master节点维持一个绝对时间，保证各个服务器之间时钟误差控制在一个合适的范围内，通常<7ms。
  • 逻辑时钟：中心化授时的方式--时间戳预言机（TSO），好处是无需硬件的支持

共识协议

Quorum NWR模型

该模型主要包括三个基本要素：

  • N：在分布式存储系统中，有多少份备份数据
  • W：代表一次成功的更新操作要求至少有w份数据写入成功
  • R： 代表一次成功的读数据操作要求至少有R份数据成功读取

为了保证强一致性，需要保证 W+R>N

  • Quorum NWR模型将CAP的选择交给用户，是一种简化版的一致性模型

  • 引起的并发更新问题

    • 如果允许数据被覆盖，则并发更新容易引起一致性问题

RAFT协议

Raft协议是一种分布式一致性算法（共识算法），即使出现部分节点故障，网络延时等情况，也不影响各节点，进而提高系统的整体可用性。Raft是使用较为广泛的分布式协议。

这个协议定义了三个角色

  • Leader - 领导者：Leader 负责处理所有的客户端请求，并向Follower同步请求日志，当日志同步到大多数节点上后，通知Follower提交日志
  • Follower - 跟随者：接受并持久化Leader同步的日志，在Leader告知日志可以提交后，提交日志
  • Candidate - 备选者：Leader选举过程中的临时角色。向其他节点发送请求投票信息

四种定义：

  • Log（日志）：节点之间同步的信息，以只追加写的方式进行同步，解决了数据被覆盖的问题
  • Term（任期号）：单调递增，每个Term内最多只有一个Leader
  • Committed：日志被复制到多数派节点，即可认为已经被提交
  • Applied：日志被应用到本地状态机：执行了log中命令，修改了内存状态

三种角色的状态变化：

image.png

Paxos协议

  • Paxos算法与RAFT算法区别：

    • Multi-Paxos 可以并发修改日志，而Raft写日志操作必须是连续的
    • Multi-Paxos 可以随机选主，不必最新最全的节点当选Leader

  • 优劣势

    • 优势：写入并发性能高，所有节点都能写
    • 劣势：没有一个节点有完整的最新的数据，恢复流程复杂，需要同步历史记录

个人总结

本次课程主要学习了：

  • 分布式概念
  • 系统模型
  • 理论基础
  • 分布式事务
  • 共识协议
avatar
文章
阅读
粉丝