常见数据库产品 | 青训营笔记

62 阅读3分钟

单机存储 — 本地文件系统

文件系统的管理单元:文件
文件系统接口:文件系统繁多,如Ext2/3/4,sysfs,rootfs等,但都遵循VFS的统一抽象接口
Linux文件系统的两大数据结构:Index Node & Directory Entry

Index Node
记录文件元数据,如id、大小、权限、磁盘位置等 inode是一个文件的唯一标识,会被存储到磁盘上 inode的总数在格式化文件系统时就固定了
Directory Entry
记录文件名、inode指针,层级关系(parent)等 dentry是内存结构,与inode的关系是N:1(hardlink的实现)

单机存储 — key-value存储

世间一切皆key-value —— key是你身份证,value是你的内涵:)
常见使用方式:put(k, v) & get(k)
常见数据结构:LSM-Tree,某种程度上牺牲读性能,追求写入性能
拳头产品:RocksDB

分布式存储 = 在单机存储基础上实现了分布式协议,涉及大量网络交 互

分布式存储 — HDFS

HDFS:堪称大数据时代的基石
时代背景:专用的高级硬件很贵,同时数据存量很大,要求超高吞吐
HDFS核心特点:

  • 支持海量数据存储
  • 高容错性
  • 弱POSIX语义
  • 使用普通x86服务器,性价比高

分布式存储 — Ceph

Ceph:开源分布式存储系统里的「万金油」
Ceph的核心特点:

  • 一套系统支持对象接口、块接口、文件接口, 但是一切皆对象
  • 高容错性
  • 数据写入采用主备复制模型
  • 数据分布模型采用CRUSH算法
CRUSH : HASH + 权重 + 随机抽签

单机数据库 = 单个计算机节点上的数据库系统 事务在单机内执行,也可能通过网络交互实现分布式事务

单机数据库 — 关系型数据库

关系型数据库的通用组件::
Query Engine —— 负责解析query,生成查询计划
Txn Manager —— 负责事务并发管理
Lock Manager —— 负责锁相关的策略
Storage Engine —— 负责组织内存/磁盘数据结构
Replication —— 负责主备同步
关键内存数据结构:B-Tree、B+-Tree、LRU List等
关键磁盘数据结构:WriteAheadLog(RedoLog)、Page

单机数据库 — 非关系型数据库

MongoDB、Redis、Elasticsearch三足鼎立
关系型数据库一般直接使用SQL交互, 而非关系型数据库交互方式各不相同
非关系型数据库的数据结构千奇百怪, 没有关系约束后,schema相对灵活
不管是否关系型数据库,大家都在 尝试支持SQL(子集)和“事务”

新技术演进 — 高性能硬件

01. RDMA网络

  • 传统的网络协议栈,需要基于多层网络协议处理数据包,存在用 户态 & 内核态的切换,足够通用但性能不是最佳
  • RDMA是kernel bypass的流派,不经过传统的网络协议栈,可以把 用户态虚拟内存映射给网卡,减少拷贝开销,减少cpu开销

02. Persistent Memory

  • 在NVMe SSD和Main Memory间有一种全新的存储产品:Persistent Memory
  • IO时延介于SSD和Memory之间,约百纳秒量级
  • 可以用作易失性内存(memory mode),也可以用作持久化介质(app-direct)

03. 可编程交换机

  • P4 Switch,配有编译器、计算单元、DRAM,可以在交换机层对网 络包做计算逻辑。在数据库场景下,可以实现缓存一致性协议等

04. CPU/GPU/DPU

  • CPU:从multi-core走向many-core
  • GPU:强大的算力 & 越来越大的显存空间
  • DPU:异构计算,减轻CPU的workload