这是我参与「第五届青训营」伴学笔记创作活动的第8天
内容梗概
本文主要梳理了以下内容:
- 啊啊
- 俺是
- 是
1 基本概念
2 典例引入
借助一个经典案例,分析观察一条数据如何从产生到数据流动,最后持久化的全生命周期。
2.1 数据的产生
小明下载一个新的APP,因为第一次登陆,所以进入APP需要注册一个新的账号。
用户名:
小明密码:
helloworld密码提示问题:
coding......
小明填好资料后便按下注册按钮。这样,一条数据就这样从无到有地产生了,并在若干毫秒内发送至APP的后端服务器。
2.2 数据的持久化
当后端服务器收集到来自用户的数据,需要进一步地将(必要的)数据进行持久化(保存并维护)。
假设小明的注册数据现在到达了数据库的入口,那么数据库将会对其做哪些操作来将其持久化?
- 校验数据的合法性(“小明”是否已经存在?)
- 修改内存(用高效的数据结构组织数据)
- 写入存储介质(以寿命&性能友好的方式写入硬件)
2.3 潜在的问题
经过以上数据的产生和持久化过程,这个案例就已经完成了,但是却引发许多潜在的问题。
- 数据库怎么保证数据不丢?
- 数据库怎么处理多人同时修改的问题?
- 为什么要用数据库,除了数据库还能存到别的存储系统吗?
- 数据库只能处理结构化数据吗?
- 有哪些操作数据库的方式,要用什么编程语言?
- ......
这一系列的问题将在本文的后续部分逐步获得解答。
3 存储与数据库简介
本部分将主要介绍存储与数据库系统的一些定义、系统特点。
3.1 存储系统
3.1.1 整体概述
存储系统:一个提供了读写、控制类接口,能够安全有效地把数据持久化的软件。
- 用户
- 存储介质
- 内存(设计性能高效、操作方便的数据结构)
- 网络(分布式存储系统)
存储系统特点:
- 性能敏感(要求高)
- 代码既“简单”又“复杂”:代码在IO路径上应简洁,在IO路径上的错误处理的分支上、在非IO路径上对各种异常情况的考虑要周全。
- 容易受硬件影响
存储器层级结构:
存储系统怎么从应用到存储介质?
- 缓存很重要,贯穿整个存储体系。
- 在跨层的地方,以软件层/硬件层友好的方式,去和其他层级的软/硬件交互。
- 拷贝很昂贵,应该尽量减少。
- 从用户态到内核态再到持久化介质上,有可能需要经历多次的数据拷贝,而数据拷贝也需要消耗CPU资源,若拷贝操作过多,导致过多的CPU消耗,使得其他的操作逻辑没有CPU可用,使得服务性能大幅降低。因此在关键路径上,应尽量减少拷贝操作。
- 硬件设备五花八门,需要有抽象统一的接入层。
3.1.2 RAID技术
Q:单机存储怎么做到高性能/高性价比/高可靠性?
A:RAID(Redundant Array of Inexpensive Disks)廉价磁盘冗余阵列技术。
背景条件
- 单块大容量磁盘的价格(劣)>多块小容量磁盘(优)
- 单块磁盘的写入性能(劣)<多块磁盘的并发写入性能(优)
- 单块磁盘的容错能力有限,不够安全(劣)
因此诞生了:
- RAID 0(✔高带宽,✖不容错)
- 多块磁盘简单组合
- 数据条带化存储,提高磁盘带宽
- 没有额外的容错设计
- RAID 1(✖低带宽,✔容错强)
- 一块磁盘对应一块额外镜像磁盘
- 真实空间利用率仅50%
- 容错能力强
- RAID 0+1(✔高带宽,✔容错强)
- 结合了RAID 0和RAID 1
- 真实空间利用率仅50%
- 容错能力强,写入带宽高
关键在于,(多磁盘)并发写入,则高带宽;镜像备份,则容错能力强。
3.2 数据库
3.2.1 基本概念
关系:集合,即任意元素组成的若干有序偶对,反映了事物间的联系。
关系代数:对关系做运算的抽象查询语言,如:交、并、笛卡尔积等。
SQL:一种方便人类阅读的关系代数表达形式(语言)。
3.2.2 数据库特点
关系型数据库特点:关系型数据库是存储系统,但是在存储之外,又发展出其他能力。
- 结构化数据友好
- 支持事务(ACID)
- 支持复杂查询语言(SQL)
非关系型数据库特点:非关系型数据库也是存储系统,但是一般不要求严格结构化。
- 半(非)结构化数据友好
- 可能支持事务(ACID)
- 可能支持复杂查询语言(SQL)
3.2.3 数据库 vs 经典存储
结构化数据管理
事务能力
复杂查询能力