这是我参与「第五届青训营」伴学笔记创作活动的第8天
1. 存储&数据库简介
存储系统是指一个提供了读写、控制类接口,能够安全有效地把数据持久化的软件,就可以称为存储系统
存储系统特点
- 作为后端软件的底座,性能敏感
- 存储系统软件架构,容易受硬件影响
- 存储系统代码,既简单又复杂
RAID技术
RAID出现的背景:
- 单块大容量磁盘的价格>多块小容量磁盘
- 单块磁盘的写入性能<多块磁盘的并发写入性能
- 单块磁盘的容错能力有限
RAID 0 -> RAID 1 -> RAID 0 + 1
数据库概览
- 关系型数据库是存储系统,但是在存储之外,又发展出其它能力,如对结构化数据友好、支持事务、支持SQL
- 非关系型数据库也是存储系统,但是一般不要求严格的结构化,对半结构化数据友好,可能支持事务,可能支持SQL
事务:
- 原子性:事务内的操作要么全做,要么都不做
- 一致性:事务执行前后,数据状态是一致的
- 隔离性:可以隔离多个并发事务,避免影响
- 持久性:事务一旦提交成功,数据保证持久性
2. 主流产品剖析
2.1 单机存储
- 本地文件系统
- key-value
2.2 分布式存储
HDFS的特点:
- 支持海量数据存储
- 高容错性
- 弱POSIX语义
- 使用普通x86服务器,性价比高 Ceph:一整套系统支持对象接口、块接口、文件接口,但是一切皆对象;数据采用主备复制模型;数据分布模型采用CRUSH算法
2.3 单机关系型数据库
商业产品Oracle,开源产品MySQL和PostgreSQL 通用组件:
- Query Engine:负责解析query,生成查询计划
- Txn Manager: 负责事务并发管理
- Lock Manager: 负责锁相关的策略
- Storage Engine : 负责组织内存/磁盘数据结构
- Replication: 负责主备同步
- 关键内存数据结构:B-Tree, B+-Tree,LRU List
2.4 单机非关系数据库
MongoDB, Redis是常用的非关系型数据库 Redis:
- 数据结构丰富
- C语言实现,超高性能
- 主要基于内存,但支持AOF/RDB持久化
- 常用redis-cli/多语言SDK交户
2.5 分布式数据库
- 池化技术解决单机数据库容量问题
- 池化技术解决弹性问题
- 池化技术解决性价比问题