这是我参与「第五届青训营 」伴学笔记创作活动的第 14 天，今天学习了存储与数据库，了解了存储系统和数据库系统的区别，以及分布式存储的产生和解决的问题，还有关系型数据库和非关系型数据库等，下面是我的收获

存储与数据库

1.1 简介

1.1.1 存储系统

系统概述

存储系统是一个提供了读写、控制类接口，能够安全有效地把数据持久化的软件

系统特点

• 作为后端软件的底座，性能敏感
• 存储系统代码，既简单又复杂，简单在于对于I/O简单，复杂在于对于异常处理复杂
• 存储系统软件框架，容易受硬件影响

存储器层级结构

数据怎么从应用到存储介质

• 缓存很重要，贯穿整个存储体系
• 拷贝很昂贵，应该尽量减少
• 硬件设备五花八门，需要有抽象统一的接入层

RAID技术

让单机存储系统做到高性能/高性价比/高可靠性的技术

RAID出现的背景：

• 单块大容量磁盘的价格>多块小容量磁盘
• 单块磁盘的写入性能<多块磁盘的并发写入性能
• 单块磁盘的容错能力有限，不够安全

RAID 0

• 多块磁盘简单组合
• 数据条带化存储，提高磁盘带宽
• 没有额外的容错设计

RAID 1

• 一块磁盘对应一块额外镜像盘
• 真实空间利用率仅50%
• 容错能力强

RAID 0 + 1

• 结合了RAID 0 和 RAID 1
• 真实空间利用率仅50%
• 容错能力强，写入带宽好

1.1.2 数据库

概述

关系 = 集合 = 任意元素组成的若干有序偶对，反应了事物间的关系

关系代数 = 对关系作运算的抽象查询语言，例如：交、并、笛卡尔积

SQL = 一种DSL = 方便人类阅读的关系代数表达形式

关系型数据库特点

关系型数据库是存储系统，但是在存储之外，又发展出其他能力

非关系型数据库特点

非关系型数据库也是存储系统，但是一般不要求严格的结构化

1.1.3 数据库 vs 经典存储

结构化数据管理

数据库将数据写入关系型数据库时，以表形式管理

经典存储写入文件时自行定义管理结构

事务能力

数据库独有的事务能力

• A(tomicity)，事务内的操作要么全做，要么不做
• C(onsistency)，事务执行前后，数据状态是一致的
• I(solation)，可以隔离多个并发事务，避免影响
• D(urability)，事务一旦提交成功，数据保证持久化

复杂查询能力

数据库可以通过SQL进行灵活且简洁的查询，而经典存储需要很复杂且僵化的查询方式

1.1.4 数据库使用方式

以SQL为例，要操作数据时，支持以下操作：

• insert
• Update
• Select
• Delete
• Where子句
• GroupBy
• OrderBy

对数据定义做修改时，支持以下操作：

• Create user
• Create database
• Create table
• Alter table

1.2 主流产品剖析

1.2.1 单机存储

概述

单机存储 = 单个计算机节点上的存储软件系统，一般不涉及网络交互

本地文件系统

文件系统的管理单元：文件

文件系统接口：文件系统繁多，如Ext2/3/4，sysfs，rootfs，但都遵循VFS的统一抽象接口

Linux文件系统的两大数据结构：Index Node & Directory Entry

• Index Node

  记录文件元数据，如id、大小、权限、磁盘位置等inode是一个文件的唯一标识，会被存储到磁盘上incode的总数在格式化文件系统时就固定了

• Direcory Entry

  记录文件名、inode指针、层级关系（parent）等，dentry是内存结构，与inode的关系是N:1 (hardlink的实现)

key-value

常见使用方式：put（k， v）& get （k）

常见数据结构：LSM-Tree，某种程度上牺牲读性能，追求写入性能

拳头产品：RocksDB

1.2.2 分布式存储

概述

分布式存储 = 在单机存储基础上实现了分布式协议，涉及大量网络交互

HDFS

时代背景：专用的高级硬件很贵，同时数据存量很大，要求超高吞吐

HDFS核心特点

• 支持海量数据存储
• 高容错性
• 弱POSIX语言
• 使用普通x86服务器，性价比高

Ceph

核心特点

• 一套系统支持对象接口、块接口、文件接口，但是一切皆对象
• 数据写入采用主备复制模型
• 数据分布模型采用CRUSH算法

1.2.3 单机数据库

概述

单机数据库 = 单个计算机节点上的数据库系统

事务在单机内执行，也可能通过网络交互实现分布式事务

关系型数据库

关系型数据库一般直接使用SQL交互，并且以数结构存储，用内存和磁盘交互

非关系型数据库

• 关系型数据库一般直接使用SQL交互,而非关系型数据库交互方式各不相同
• 非关系型数据库的数据结构千奇百怪，没有关系约束后,schema相对灵活
• 不管是否关系型数据库,大家都在尝试支持SQL(子集)和“事务”

1.2.4 分布式数据库

解决容量问题

• 单点的容量有限，受硬件限制
• 分布式存储将节点池化，动态扩缩容

解决弹性问题

• 分布式存储的磁盘是池化的，可以动态扩缩容

解决性价比问题

• 使用共享存储池，不需要扩cpu，性价比更高

1.3 新技术演进

1.3.1 概述

• 软件架构变更

  Bypass OS kernel

• AI增强

  智能存储格式转化

• 新硬件革命

  存储介质变更、计算单元变更、网络硬件变更

1.3.2 SPDK

• Kernel Space -> User Space

  避免syscall带来的性能损耗，直接从用户态访问磁盘

• 中断 -> 轮询

  • 磁盘性能提高后，中断次数随之上升，不利于IO性能
  • SPDK poller 可以绑定特定的cpu核不断轮询，减少cs，提高性能

• 无锁数据结构

  使用Lock-free queue，降低并发时的同步开销

1.3.3 AI & Storage

AI领域

如Machine Learning在很多领域：推荐、风控、视觉领域证明了有效性

Storage领域

使用AI的能力来进行行列混存

1.3.4 高性能硬件

RDMA网络

• 传统的网络协议栈，需要基于多层网络协议处理数据包，存在用户态和内核态的切换，足够通用但性能不是最佳
• RDMA是kernel bypass的流派，不经过传统的网络协议栈，可以把用户态虚拟内存映射给网卡，减少拷贝开销，减少cpu开销

Persistent Memory

• IO时延介于SSD和Memory之间，约百纳秒量级
• 可以用作易失性内存，也可以用作持久化介质

可编程交换机

P4交换机中，配有编译器、计算单元、DRAM、可以在交换机层对网络包做计算逻辑，在数据库场景下，可以实现缓存一致性协议等

CPU/GPU/DPU

• CPU：从multi-core走向many-core
• GPU：强大的算力和越来越大的显存空间
• DPU：异构计算，减轻CPU的workload