这是我参与「第五届青训营 」伴学笔记创作活动的第 12 天。

1 存储系统

1.1 概念

存储系统：一个提供了读写、控制类接口，能够安全有效地把数据持久化的软件

1.2 系统特点

• 作为后端软件的底座，性能敏感
• 存储系统软件架构，容易受硬件影响
• 存储系统代码，既简单又复杂

1.3 数据怎么从应用到存储介质

• 缓存很重要，贯穿整个存储体系
• 拷贝很珍贵，应该尽量减少
• 硬件设备五花八门，需要有抽象统一的接入层

1.4 RAID技术

单机存储系统怎么做到高性能/高性价比/高可靠性？

答案：RAID (Redundant Array of Inexpensive Disks)

RAID 出现的背景：

• 单块大容量磁盘的价格 > 多块小容量磁盘
• 单块磁盘的写入性能 < 多块磁盘的并发写入性能
• 单块磁盘的容错能力有限，不够安全

分类：略。

2 数据库系统

2.1 关系型数据库的特点

是存储系统，但在存储之外又发展出其他能力

• 结构化数据友好
• 支持事务（ACID）
• 支持复杂查询语言

2.2 非关系兴数据库的特点

也是存储系统，但一般不要求严格的结构化

• 半结构化数据友好
• 可能支持事务
• 可能支持复杂查询语言

3 主流产品剖析

3.1 单机存储

单机存储 = 单个计算机节点上的存储软件系统，一般不涉及网络交互

3.1.1 本地文件系统

• 文件系统的管理单元：文件
• 文件系统接口：文件系统繁多，但都遵循 VFS 的统一抽象接口
• Linux 文件系统的两大数据结构
  • Index Node：记录文件元数据，如id、大小、权限、磁盘位置等。是一个文件的唯一标识，会被存储到磁盘上。inode总数在格式化文件系统时就固定了
  • Directory Entry：记录文件名、inode指针、层级关系（parent）等。dentry是内存结构，与inode的关系是N:1（hardlink的实现）

3.1.2 key-value存储

• 常见使用方式：put(k,v) & get(k)
• 常见数据结构：LSM-Tree，某种程度上牺牲读性能，追求写入性能

3.2 分布式存储

分布式存储 = 在单机存储基础上上线了分布式协议，设计大量网络交互

3.2.1 HDFS——大数据时代的基石

• 时代背景：专用的高级硬件很贵，同时数据存量很大，要求超高吞吐

• 核心特点

  • 支持海量数据存储
  • 高容错性
  • 弱POSIX语义
  • 使用普通x86服务器，性价比高

3.2.2 Ceph——开源分布式存储系统里的万金油

核心特点：

• 一套系统支持对象接口、块接口、文件接口，但是一切皆对象
• 数据写入采用主备复制模型
• 数据分布模型采用CRUSH算法（HASA+权重+随机抽签）

3.3 单机数据库

单机数据库 = 单个计算机节点上的数据库系统。事务在单机内执行，也可能通过网络交互实现分布式事务。

3.3.1 单机关系型数据库

商业产品：Oracle称王

开源产品：MySQL和PostgreSQL称霸

通用组件：

• Query Engine：复杂解析query，生成查询计划
• Txn Manager：复杂事务并发管理
• Lock Manager：复杂锁相关策略
• Storage Engine：复杂组织内存/磁盘数据结构
• Replication：复杂主备同步

关键内存数据结构：

• B Tree
• B+ Tree
• LRU List

关键磁盘数据结构：

• WriteAheadLog(Redolog)
• Page

3.4 单机非关系型数据库

• MongoDB、Redis、Elasticsearch三足鼎立

• 关系型数据库一般使用SQL交互，而非关系型数据库交互方式各不相同

• 非关系型数据库的数据结构千奇百怪，没有关系约束后，schema相对灵活

• 不管是否为关系型数据库，大家都在尝试支持 SQL（子集）和事务

3.5 分布式数据库

单机数据库的缺点：容量、弹性、性价比，为此分布式数据库诞生了

存储节点池化，动态扩缩容，解决容量、弹性、性价比问题。

4 新技术演进

4.1 软件架构变更

Bypass OS Kernel 已经成为一种趋势

SPDK（Storage Performance Development Kit）

• Kernel Space -> User Space：避免系统调用带来的性能损耗，直接从用户态访问磁盘
• 中断 -> 轮询
  • 磁盘性能提高后，中断次数随之上升，不利于IO性能
  • SPDK poller 可以绑定特定的CPU核不断轮询，减少cs，提高性能
• 无锁数据结构：使用 lock-free queue，降低并发时的同步开销

4.2 AI & 存储

AI 领域相关技术（例如机器学习）在很多领域（如推荐、风控、视觉）证明了有效性

例如用AI决策将一个表以行列混存的形式存储

4.3 高性能硬件

• RDMA网络
• Persistent Memory
• 可编程交换机
• CPU/GPU/DPU