单机存储 — 本地文件系统
文件系统的管理单元:文件
文件系统接口:文件系统繁多,如Ext2/3/4,sysfs,rootfs等,但都遵循VFS的统一抽象接口
Linux文件系统的两大数据结构:Index Node & Directory Entry
Index Node
记录文件元数据,如id、大小、权限、磁盘位置等 inode是一个文件的唯一标识,会被存储到磁盘上 inode的总数在格式化文件系统时就固定了
Directory Entry
记录文件名、inode指针,层级关系(parent)等 dentry是内存结构,与inode的关系是N:1(hardlink的实现)
单机存储 — key-value存储
世间一切皆key-value —— key是你身份证,value是你的内涵:)
常见使用方式:put(k, v) & get(k)
常见数据结构:LSM-Tree,某种程度上牺牲读性能,追求写入性能
拳头产品:RocksDB
分布式存储 = 在单机存储基础上实现了分布式协议,涉及大量网络交 互
分布式存储 — HDFS
HDFS:堪称大数据时代的基石
时代背景:专用的高级硬件很贵,同时数据存量很大,要求超高吞吐
HDFS核心特点:
- 支持海量数据存储
- 高容错性
- 弱POSIX语义
- 使用普通x86服务器,性价比高
分布式存储 — Ceph
Ceph:开源分布式存储系统里的「万金油」
Ceph的核心特点:
- 一套系统支持对象接口、块接口、文件接口, 但是一切皆对象
- 高容错性
- 数据写入采用主备复制模型
- 数据分布模型采用CRUSH算法
单机数据库 = 单个计算机节点上的数据库系统 事务在单机内执行,也可能通过网络交互实现分布式事务
单机数据库 — 关系型数据库
关系型数据库的通用组件::
Query Engine —— 负责解析query,生成查询计划
Txn Manager —— 负责事务并发管理
Lock Manager —— 负责锁相关的策略
Storage Engine —— 负责组织内存/磁盘数据结构
Replication —— 负责主备同步
关键内存数据结构:B-Tree、B+-Tree、LRU List等
关键磁盘数据结构:WriteAheadLog(RedoLog)、Page
单机数据库 — 非关系型数据库
MongoDB、Redis、Elasticsearch三足鼎立
关系型数据库一般直接使用SQL交互, 而非关系型数据库交互方式各不相同
非关系型数据库的数据结构千奇百怪, 没有关系约束后,schema相对灵活
不管是否关系型数据库,大家都在 尝试支持SQL(子集)和“事务”
新技术演进 — 高性能硬件
01. RDMA网络
- 传统的网络协议栈,需要基于多层网络协议处理数据包,存在用 户态 & 内核态的切换,足够通用但性能不是最佳
- RDMA是kernel bypass的流派,不经过传统的网络协议栈,可以把 用户态虚拟内存映射给网卡,减少拷贝开销,减少cpu开销
02. Persistent Memory
- 在NVMe SSD和Main Memory间有一种全新的存储产品:Persistent Memory
- IO时延介于SSD和Memory之间,约百纳秒量级
- 可以用作易失性内存(memory mode),也可以用作持久化介质(app-direct)
03. 可编程交换机
- P4 Switch,配有编译器、计算单元、DRAM,可以在交换机层对网 络包做计算逻辑。在数据库场景下,可以实现缓存一致性协议等
04. CPU/GPU/DPU
- CPU:从multi-core走向many-core
- GPU:强大的算力 & 越来越大的显存空间
- DPU:异构计算,减轻CPU的workload