认识存储&数据库｜ 青训营笔记

Langjx
226 阅读7分钟

这是我参与「第三届青训营 -后端场」笔记创作活动的的第3篇笔记

存储&数据库简介

存储

系统概览

一个提供了读写、控制类接口，能够安全有效地把数据持久化的软件，就可以称为存储系统

系统特点

作为后端软件的底座，性能敏感：在现代的大型后端架构里面，很多都是依赖持久化有状态的服务，必然涉及大量、频繁的并发的去操作存储系统，所以必须做到超高性能

存储系统代码既简单又复杂：在IO读写上一定不能写得太复杂，在错误处理的分支上必须要考虑到多种异常处理的情况，必须做得复杂才能cover各种异常场景

存储系统软件架构容易受硬件影响：只要硬件发生了变动，软件也要发生变化，例如根据新硬件的特点重新写一版代码

存储器层级结构

image.png

数据怎么从应用到存储介质

缓存很重要，贯穿整个存储体系

拷贝很昂贵，应该尽量减少

设备硬件五花八门，需要有抽象统一的接入层 image.png

RAID(Redundant Array Inexpensive Disks)技术

单机存储系统追求高性能/高性价比/高可靠性的产物

RAID出现的背景：

  • 单块大容量磁盘的价格》多块小容量磁盘
  • 单块磁盘的写入性能《多块磁盘的并发写入性能
  • 单块磁盘的容错能力有限，不够安全

RAID 0：多块磁盘简单组合；数据条带化存储，提高磁盘带宽；没有额外的容错设计

RAID 1：一块磁盘对应一块额外镜像盘；真实空间利用率仅50%；容错能力强

RAID 0+1：结合了RAID0和RAID1；真实空间利用率仅50%；容错能力强，写入带宽好

数据库

关系型数据库非关系型数据库
关系型数据库是存储系统，但是在存储之外，又发展出其他能力非关系型数据库也是存储系统，但是一般不要求严格的结构化
结构化数据友好半结构化数据友好
支持事务ACID可能支持事务ACID
支持复杂查询语言可能支持复杂查询语言

主流产品剖析

单机存储

本地文件系统

Linux经典哲学：一切皆文件

文件系统的管理单元：文件

文件系统接口：Ext2/3/4，sysfs，rootfs等，但都遵循VFS的统一抽象接口

Linux文件系统的两大数据结构；Index Node&Directiry Entry

Index NodeDirectory Entry
记录文件元数据，如id、大小、权限、磁盘位置等
inode是一个文件的唯一标识，会被存储到磁盘上
inode的总数在格式化文件系统时就固定了		记录文件名、inode指针、层级关系(parent)等
dentry是内存结构，与inode的关系是N:1(hardlink的实现）

Key-value存储

世间一切皆key-value：key是你的身份证，value是你的内涵

常见使用方式：put（k，v）&get（k）

常见数据结构：LSM-Tree，某种程度上牺牲读性能，追求写入性能

拳头产品：RocksDB

image.png

分布式存储

HDFS:堪称大数据时代的基石

时代背景：专用的高级硬件很贵，同时数据存量很大，要求超高吞吐

HDFS核心特点：

  • 支持海量存储
  • 高容错性
  • 弱POSIX语义
  • 使用普通x86服务器，性价比高

image.png

Ceph:开源分布式存储系统里的万金油

Ceph的核心特点：

  • 一套系统支持对象接口、块接口、文件接口，但是一切皆对象
  • 数据写入采用主备复制模型
  • 数据分布模型采用CRUSH算法（HASH+权重+随机抽签）

image.png

单机关系型数据库

商业产品Oracle称王，开源产品MySQL&PostgreSQL称霸

关系型数据库的通用组件：

  • Query Engine:负责解析query，生成查询计划
  • Txn Manager：负责事务并发管理
  • Lock Manager：负责锁相关的策略 Storage Engine ——负责组织内存/磁盘数据结构
  • Replication：负责主备同步

关键内存数据结构:B-Tree、B+-Tree、LRU List等

关键磁盘数据结构: WriteAheadLog (RedoLog) . Page

image.png

单机非关系型数据库

MongoDB、Redis、ElasticSearch三足鼎立

关系型数据库一般直接使用SQL交互,而非关系型数据库交互方式各不相同

非关系型数据库的数据结构千奇百怪,没有关系约束后, schema相对灵活

不管是否关系型数据库，大家都在尝试支持SQL(子集)和“事务”

ElasticSearchmongoDBRedis
面向「文档」存储 文档可序列化成JSON，支持嵌套
存在「index] , index=文档的集合
存储和构建索引能力依赖Lucene引擎
实现了大量搜索数据结构&算法
支持RESTFUL API，也支持弱SQL交互		面向「文档」存储
文档可序列化成JSON/BSON，支持嵌套
存在「collection」 , collection=文档的集合
存储和构建索引能力依赖wiredTiger引擎 4.0后开始支持事务(多文档、跨分片多文档等)
常用client/SDK交互，可通过插件转译支持弱SQL		数据结构丰富(hash表、set、zset、list)
C语言实现，超高性能
主要基于内存,但支持AOF/RDB持久化
常用redis-cli/多语言SDK交互

分布式数据库

单机数据库遇到了哪些问题&挑战，需要我们引入分布式架构来解决?

容量：单点容量有限，受硬件限制 存储节点池化，动态扩缩容

弹性：硬件升级，需要搬迁全量数据 ，缩容时Disk问题难以解决 缩容扩容不需要关心容量问题

性价比：扩容高规格机器 使用共享存储池不需要扩cpu

More to Do

单写vs多写：同一时间同一数据只能有一个用户进行操作，支持多人同时写入才能提高系统的整体吞吐

从磁盘弹性到内存弹性：内存也做到弹性伸缩，进一步降低成本，提高性价比

分布式事务优化：在现有的分布式事务算法上获得更大收益

新技术演进

SPDK（Storage Performance Development Kit)

Kernel Space→User Space

  • 避免syscall带来的性能损耗,直接从用户态访问磁盘 中断→轮询
  • 磁盘性能提高后，中断次数随之上升,不利于I0性能
  • SPDK poller可以绑定特定的cpu核不断轮询，减少cs，提高性能

无锁数据结构

  • 使用Lock-free queue，降低并发时的同步开销

AI&Storage

行存、列存-AI决策→行列混存

高性能硬件

RDMA网络

  • 传统的网络协议栈，需要基于多层网络协议处理数据包，存在用户态&内核态的切换，足够通用但性能不是最佳
  • RDMA是kernel bypass的流派，不经过传统的网络协议栈，可以把用户态虚拟内存映射给网卡，减少烤贝开销,减少cpu开销

Persistent Memory

  • 在NVMe SSD和Main Memory间有一种全新的存储产品:Persistent Memory

  • IO时延介于SSD和Memory之间，约百纳秒量级

  • 可以用作易失性内存(memory mode)，也可以用作持久化介质(app-direct)

可编程交换机

  • P4 Switch，配有编译器、计算单元、DRAM，可以在交换机层对网络包做计算逻辑
  • 在数据库场景下，可以实现缓存―致性协议等

CPU/GPU/DPU

  • CPU:从multi-core走向many-core

  • GPU:强大的算力&越来越大的显存空间

  • DPU:异构计算、减轻CPU的workload

avatar
文章
阅读
粉丝