【青训营笔记】- 「带你认识存储的本质 - 状态」

用户3869424693356
67 阅读8分钟

这是我参与「第五届青训营 」笔记创作活动的第15天。

前言

存储系统和数据库系统往往是后端服务的最后一环，提供数据存储、查询能力。本次青训营课程将使用模拟案例导入，介绍存储系统、数据库系统的特点，然后解析多个主流产品，最后分享存储和数据库结合新技术演进的方向。

一、经典案例

一条数据从产生，到数据流动，最后持久化的全生命周期

数据的产生

某天，小明同学下载了一个新的APP。因为第一次登陆，所以进入APP后需要注册一个新的账号
用户名: 小明
密码: helloworld
密码提示问题: coding
.....
于是小明同学三下五除二地填好了资料，按下了[注册] 按钮就这样，数据就从无到有地产生了，并且在数十/数百毫秒内向APP的后端服务器飞奔而去....

graph LR
手机中用户注册数据json  --> 后端服务器 --> 数据库

数据的持久化

  • 校验数据的合法性：“小明”是否已存在 ?
  • 修改内存：用高效的数据结构组织数据
  • 写入存储介质：以寿命 & 性能友好的方式写入硬件

潜在的问题

  1. 数据库怎么保证数据不丢?
  2. 数据库怎么处理多人同时修改的问题 ?
  3. 为什么用数据库，除了数据库还能存到别的存储系统吗 ?
  4. 数据库只能处理结构化数据吗 ?
  5. 有哪些操作数据库的方式，要用什么编程语言 ?

二、存储 & 数据库简介

数据库和存储系统背景知识，它们是什么，有哪些特点?

2.1 系统概览

  • 存储系统：一个提供了读写、控制类接口，能够安全有效地把数据持久化的软件，就可以称为存储系统
  • 系统特点：
    • 作为后端软件的底座,性能敏感
    • 存储系统软件架构，容易受硬件影响
    • 存储系统代码，既“简单”又“复杂
  • 存储器层级结构

image.png

2.2 数据怎么从应用到存储介质

image.png

  • [缓存]很重要，贯穿整个存储体系
  • [拷贝] 很昂贵，应该尽量减少
  • 硬件设备五花八门，需要有抽象统一的接 入层

2.3RAID技术

  • 单机存储系统怎么做到高性能 /高性价比 / 高可靠性 ?
    • R(edundant) A(rray) of I(nexpensive) D(isks)
  • RAID出现的背景
    • 单块大容量磁盘的价格 >多块小容量磁盘
    • 单块磁盘的写入性能< 多块磁盘的并发写入性能
    • 单块磁盘的容错能力有限，不够安全

2.4 数据库

  • 数据库：关系型数据库和非关系型数据库

2.4.1 概览

  • 关系模型：关系 = 集合 =任意元素组成的若干有序偶对反应了事物间的关系
  • 关系代数 = 对关系作运算的抽象查询语言交、并、笛卡尔积
  • SQL = 一种DSL（Domain Specific language） = 方便人类阅读的关系代数表达形式

2.4.2 关系型数据库

  • 特点
  1. 结构化数据友好
  2. 支持事务(ACID)
  3. 支持复杂查询语言

2.4.3 非关系型数据库

  • 特点：
  1. 半结构化数据友好
  2. 可能支持事务 (ACID)
  3. 可能支持复杂查询语言

2.5 数据库 vs 经典存储

  1. 结构化数据管理
  2. 凸显出数据库支持[事务]的优越性。ACID
  3. 复杂查询能力

三、主流产品剖析

主流的存储 & 数据库系统架构，经典产品剖析

3.1 单机存储

单机存储 = 单个计算机节点上的存储软件系统，一般不涉及网络交互

  • 本地文件系统
    • 一切皆文件
    • 文件系统的管理单元:文件
    • 文件系统接口: 文件系统繁多，如Ext2/3/4，sysfs，rootfs等，但都遵循VFS的统一抽象接口
    • Linux文件系统的两大数据结构:Index Node（文件元数据）& Directory Entry（文件的实体，与Index Node 1比N对应）
  • key-value存储
    • 世间一切皆key-value:key是你身份证，value是你的内涵 :)
    • 常见使用方式: put(k, v) & get(k)
    • 常见数据结构 : LSM-Tree，某种程度上牺牲读性能，追求写入性能
    • 拳头产品 : RocksDB

3.2 分布式存储

分布式存储 = 在单机存储基础上实现了分布式协议，涉及大量网络交互

3.2.1 分布式文件系统

  • HDFS : 堪称大数据时代的基石
  • 时代背景 : 专用的高级硬件很贵，同时数据存量很大，要求超高吞吐
  • HDFS核心特点
  1. 支持海量数据存储
  2. 高容错性
  3. 弱POSIX语义
  4. 使用普通x86服务器，性价比高 image.png

3.2.2 分布式对象存储

  • Ceph : 开源分布式存储系统里的[万金油]
  • Ceph的核心特点:
  1. 一套系统支持对象接口、块接口、文件接口但是一切皆对象
  2. 数据写入采用主备复制模型
  3. 数据分布模型采用CRUSH算法(HASH + 权重 + 随机抽签) image.png

3.3 单机关系型数据库

商业产品Oracle称王，开源产品MySOL & PostgreSOL称霸

  • 关系型数据库的通用组件:
    • Query Engine - 负责解析query，生成查询计划
    • Txn Manager - 负责事务并发管理
    • Lock Manager -负责锁相关的策略
    • Storage Engine -- 负责组织内存/磁盘数据结构
    • Replication--负责主备同步
  • 关键内存数据结构: B-Tree、B+-Tree、LRU List等
  • 关键磁盘数据结构 : WriteAheadLog (RedoLog) 、Page

3.4 单机非关系型数据库

MongoDB、Redis、Elasticsearch三足鼎立

  • 关系型数据库一般直接使用SQL交互而非关系型数据库交互方式各不相同
  • 非关系型数据库的数据结构千奇百怪没有关系约束后，schema相对灵活
  • 不管是否关系型数据库，大家都在尝试支持SQL(子集)和“事务

image.png

3.4.1 Elasticsearch

  • 面向[文档] 存储
  • 文档可序列化成JSON，支持嵌套
  • 存在[index] ，index = 文档的集合
  • 存储和构建索引能力依赖Lucene引擎
  • 实现了大量搜索数据结构 & 算法
  • 支持RESTFUL API，也支持弱SOL交互

3.4.2 MongoDB

  • 面向[文档] 存储
  • 文档可序列化成JSON/BSON，支持嵌套
  • 存在[collection]，collection = 文档的集合
  • 存储和构建索引能力依赖wiredTiger引擎
  • 4.0后开始支持事务(多文档、跨分片多文档等)
  • 常用client/SDK交互，可通过插件转译支持弱SOL

3.4.3 Redis

  • 数据结构丰富 (hash表、set、zset、list)
  • C语言实现，超高性能
  • 主要基于内存，但支持AOF/RDB持久化
  • 常用redis-ci/多语言SDK交互

3.5 分布式数据库

单机数据库遇到了哪些问题 & 挑战，!需要我们引入分布式架构来解决 ?

  • 问题与挑战：容量、弹性、性价比
  • 解决容量问题
    • 单点容量有限，受硬件限制 ——> 存储节点池化，动态扩缩容
  • 解决弹性问题
    • 场景：CPU资源紧张、不够用了-扩容成功，访问新数据库-缩容成功，访问新数据库
  • 解决性价比问题
    • 只需要大的数据库硬盘空间，而不需要CPU资源

3.5.1 More TO DO

  • 单写 vs 多写
  • 从磁盘弹性到内存弹性
  • 分布式事务优化

四、新技术演进

老系统结合新技术，如何持续演进走向新生?

新架构?新硬件?新理论?人工智能?

4.1 新技术演进 - 概览

  • 软件架构变更：Bypass OS kernel
  • AI增强：智能存储格式转换
  • 新硬件革命
    • 存储介质变更
    • 计算单元变更
    • 网络硬件变更

4.2 SPDK

  • Bypass OS kernel已经成为一种趋势
  • Storage Performance Development Kit
  • Kernel Space -> User Space:避免syscall带来的性能损耗，直接从用户态访问磁盘
  • 中断 -> 轮询:磁盘性能提高后，中断次数随之上升，不利于IO性能 / SPDK poller可以绑定特定的cpu核不断轮询，减少cs，提高性能
  • 无锁数据结构:使用Lock-free queue，降低并发时的同步开销

4.3 AI&Storage

  • Al领域相关技术，如Machine Learning在很多领域:如推荐、风控、视觉领域证明了有效性
  • 在Storage领域，AI能给我们带来什么改变 ? 选择数据的行存和列存的决策

4.4 高性能硬件

4.4.1 RDMA网络

  • 传统的网络协议栈，需要基于多层网络协议处理数据包，存在用户态 & 内核态的切换，足够通用但性能不是最佳
  • RDMA是kernel bypass的流派，不经过传统的网络协议栈，可以把用户态虚拟内存映射给网卡，减少拷贝开销，减少cpu开销

4.4.2Persistent Memory

在NVMe SSD和Main Memory间有一种全新的存储产品 : Persistent Memory

  • IO时延介于SSD和Memory之间，约百纳秒量级
  • 可以用作易失性内存 (memory mode)，也可以用作持久化介质 (app-direct)

4.4.3可编程交换机

P4 Switch，配有编译器、计算单元、DRAM，可以在交换机层对网络包做计算逻辑。在数据库场景下，可以实现缓存一致性协议等

4.4.4 CPU/GPU/DPU

  • CPU :从multi-core走向many-core
  • GPU : 强大的算力 & 越来越大的显存空间
  • DPU: 异构计算，减轻CPU的workload

总结

  • 存储系统
    • 块存储: 存储软件栈里的底层系统，接口过于朴素
    • 文件存储: 日常使用最广泛的存储系统，接口十分友好，实现五花八门
    • 对象存储: 公有云上的王牌产品，immutable语义加持
    • key-value存储:形式最灵活，存在大量的开源/黑盒产品
  • 数据库系统
    • 关系型数据库: 基于关系和关系代数构建的,，一般支持事务和SOL访问，使用体验友好的存储产品
    • 非关系型数据库:结构灵活，访问方式灵活，针对不同场景有不同的针对性产品
  • 分布式架构
    • 数据分布策略: 决定了数据怎么分布到集群里的多个物理节点，是否均匀，是否能做到高性能
    • 数据复制协议:影响IO路径的性能、机器故障场景的处理方式
    • 分布式事务算法:多个数据库节点协同保障一个事务的ACID特性的算法，通常基于2pc的思想设计
avatar
文章
阅读
粉丝