这是我参与「第四届青训营 」笔记创作活动的第9天
1. 框架原理
1.1 HDFS组件
1.2 Client写流程
1.3 Client读流程
1.4 元数据节点NameNode
- 维护目录树
维护目录树的增删改查操作，保证所有修改都能持久化，以便机器掉电不会造成数据丢失或不一致。
- 维护文件和数据块的关系
文件被切分成多个块，文件以数据块为单位进行多副本存放
- 维护文件块存放节点信息
通过接收DataNode的心跳汇报信息，维护集群节点的拓扑结构和每个文件块所有副本所在的DataNode类表。
- 分配新文件存放节点
Client创健新的文件时候，需要有NameNode来确定分配目标DataNode
1.5 数据节点DataNode
- 数据块存取
DataNode需要高效实现对数据块在硬盘上的存取
- 心跳汇报
把存放在本机的数据块列表发送给NameNode,以便 NameNode能维护数据块的位置信息，同时让NameNode 确定该节点处于正常存活状态
- 副本复制
1.数据写入时Pipeline1O操作
2.机器故障时补全副本
2. 关键设计
2.1 分布式存储系统基本概念
- 01.容错能力
能够处理绝大部分异常场景，例如服务器宕 机、网络异常、磁盘故障、网络超时等。
- 02.一致性模型
为了实现容错，数据必须多副本存放，一致 性要解决的问题是如何保障这多个副本的内 容都是一致的
- 03.可扩展性
分布式存储系统需要具备横向扩张scale-out 的能力
- 04.节点体系
常见的有主从模式、对等模式等，不管哪种 模式，高可用是必须的功能。
- 05.数据放置
系统是由多个节点组成，数据是多个副本存 放时，需要考虑数据存放的策略，
- 06.单机存储引擎
在绝大部分存储系统中， 数据都是需要落盘 持久化，单机引擎需要解决的是根据系统特 点，如何高效得存取硬盘数据，
2.2 NameNode目录树维护
- fsimage
文件系统目录树
完整的存放在内存中
定时存放到硬盘上
修改是只会修改内存中的目录树
- EditLog
目录树的修改日志
clienti更新目录树需要持久化EditLog)后才能表示更新成功
EditLog可存放在本地文件系统，也可存放在专用系统上
NameNode HA方案一个关键点就是如何实现EditLogz共享
2.3 NameNode数据放置
- 数据块信息维护
目录树保存每个文件的块id
NameNode维护了每个数据块所在的节点信息
NameNode根据DataNodei汇报的信息动态维护位置信息
NameNode不会持久化数据块位置信息
- 数据放置策略
新数据存放到哪写节点
数据均衡需要怎么合理搬迁数据
3个副本怎么合理放置
2.4 DataNode
- 数据块的硬盘存放
文件在NameNode已分割成block
DataNodel以block为单位对数据进行存取
- 启动扫盘
DataNode需要知道本机存放了哪些数据块
启动时把本机硬盘上的数据块列表加载在内存中
2.5 HDFS写异常处理：Lease Recovery
-
情景：文件写了一半，client自己挂掉了。可能产生的问题
- 副本不一致
- Lease无法释放
-
租约：Client要修改一个文件时，需要通过NameNode上锁，这个锁就是租约(Lease)。
解决方法：Lease Recovery
2.6 HDFS写异常：Pipeline Recovery
-
情景：文件写入时，DataNode端出现异常挂掉了
-
异常出现时的时机：
- 创建连接时
- 数据传输时
- complete阶段
解决方法：Pipeline Recovery
2.7 Client读异常处理
- 情景：读取文件的过程中，DataNode端出现异常挂掉了
- 解决办法：节点Faillover
3,8 旁路系统
- Balancer：均衡DataNode的容量
- mover：确保副本放置符合策略要求
