认识存储与数据库|青训营笔记

89 阅读2分钟

这是我参与「第五届青训营」伴学笔记创作活动的第8天

1. 存储&数据库简介

存储系统是指一个提供了读写、控制类接口,能够安全有效地把数据持久化的软件,就可以称为存储系统

存储系统特点

  1. 作为后端软件的底座,性能敏感
  2. 存储系统软件架构,容易受硬件影响
  3. 存储系统代码,既简单又复杂

RAID技术

RAID出现的背景

  • 单块大容量磁盘的价格>多块小容量磁盘
  • 单块磁盘的写入性能<多块磁盘的并发写入性能
  • 单块磁盘的容错能力有限

RAID 0 -> RAID 1 -> RAID 0 + 1

数据库概览

  • 关系型数据库是存储系统,但是在存储之外,又发展出其它能力,如对结构化数据友好、支持事务、支持SQL
  • 非关系型数据库也是存储系统,但是一般不要求严格的结构化,对半结构化数据友好,可能支持事务,可能支持SQL

事务

  • 原子性:事务内的操作要么全做,要么都不做
  • 一致性:事务执行前后,数据状态是一致的
  • 隔离性:可以隔离多个并发事务,避免影响
  • 持久性:事务一旦提交成功,数据保证持久性

2. 主流产品剖析

2.1 单机存储

  • 本地文件系统
  • key-value

2.2 分布式存储

HDFS的特点:

  • 支持海量数据存储
  • 高容错性
  • 弱POSIX语义
  • 使用普通x86服务器,性价比高 Ceph:一整套系统支持对象接口、块接口、文件接口,但是一切皆对象;数据采用主备复制模型;数据分布模型采用CRUSH算法

2.3 单机关系型数据库

商业产品Oracle,开源产品MySQL和PostgreSQL 通用组件:

  • Query Engine:负责解析query,生成查询计划
  • Txn Manager: 负责事务并发管理
  • Lock Manager: 负责锁相关的策略
  • Storage Engine : 负责组织内存/磁盘数据结构
  • Replication: 负责主备同步
  • 关键内存数据结构:B-Tree, B+-Tree,LRU List

2.4 单机非关系数据库

MongoDB, Redis是常用的非关系型数据库 Redis:

  • 数据结构丰富
  • C语言实现,超高性能
  • 主要基于内存,但支持AOF/RDB持久化
  • 常用redis-cli/多语言SDK交户

2.5 分布式数据库

  • 池化技术解决单机数据库容量问题
  • 池化技术解决弹性问题
  • 池化技术解决性价比问题