Go后端:存储与数据库(一)基础入门| 青训营笔记

95 阅读3分钟

这是我参与「第五届青训营」伴学笔记创作活动的第8天

内容梗概

本文主要梳理了以下内容:

  1. 啊啊
  2. 俺是

1 基本概念

2 典例引入

借助一个经典案例,分析观察一条数据如何从产生到数据流动,最后持久化的全生命周期。

2.1 数据的产生

小明下载一个新的APP,因为第一次登陆,所以进入APP需要注册一个新的账号。

用户名:小明

密码:helloworld

密码提示问题:coding

......

小明填好资料后便按下注册按钮。这样,一条数据就这样从无到有地产生了,并在若干毫秒内发送至APP的后端服务器。

image.png

2.2 数据的持久化

当后端服务器收集到来自用户的数据,需要进一步地将(必要的)数据进行持久化(保存并维护)。

假设小明的注册数据现在到达了数据库的入口,那么数据库将会对其做哪些操作来将其持久化

  1. 校验数据的合法性(“小明”是否已经存在?)
  2. 修改内存(用高效的数据结构组织数据)
  3. 写入存储介质(以寿命&性能友好的方式写入硬件)

2.3 潜在的问题

经过以上数据的产生持久化过程,这个案例就已经完成了,但是却引发许多潜在的问题

  • 数据库怎么保证数据不丢
  • 数据库怎么处理多人同时修改的问题?
  • 为什么要用数据库,除了数据库还能存到别的存储系统吗?
  • 数据库只能处理结构化数据吗?
  • 有哪些操作数据库的方式,要用什么编程语言
  • ......

这一系列的问题将在本文的后续部分逐步获得解答。

3 存储与数据库简介

本部分将主要介绍存储与数据库系统的一些定义、系统特点。

3.1 存储系统

3.1.1 整体概述

存储系统:一个提供了读写、控制类接口,能够安全有效地把数据持久化的软件。

  • 用户
  • 存储介质
  • 内存(设计性能高效、操作方便的数据结构)
  • 网络(分布式存储系统)

存储系统特点

  • 性能敏感(要求高)
  • 代码既“简单”又“复杂”:代码在IO路径上应简洁,在IO路径上的错误处理的分支上、在非IO路径上对各种异常情况的考虑要周全。
  • 容易受硬件影响

存储器层级结构

存储系统怎么从应用到存储介质?

  • 缓存很重要,贯穿整个存储体系。
    • 在跨层的地方,以软件层/硬件层友好的方式,去和其他层级的软/硬件交互。
  • 拷贝很昂贵,应该尽量减少。
    • 从用户态到内核态再到持久化介质上,有可能需要经历多次的数据拷贝,而数据拷贝也需要消耗CPU资源,若拷贝操作过多,导致过多的CPU消耗,使得其他的操作逻辑没有CPU可用,使得服务性能大幅降低。因此在关键路径上,应尽量减少拷贝操作。
  • 硬件设备五花八门,需要有抽象统一的接入层。

3.1.2 RAID技术

Q:单机存储怎么做到高性能/高性价比/高可靠性

A:RAID(Redundant Array of Inexpensive Disks)廉价磁盘冗余阵列技术。

背景条件

  • 单块大容量磁盘的价格(劣)>多块小容量磁盘(优)
  • 单块磁盘的写入性能(劣)<多块磁盘的并发写入性能(优)
  • 单块磁盘的容错能力有限,不够安全(劣)

因此诞生了:

  • RAID 0(✔高带宽,✖不容错)
    • 多块磁盘简单组合
    • 数据条带化存储,提高磁盘带宽
    • 没有额外的容错设计
  • RAID 1(✖低带宽,✔容错强)
    • 一块磁盘对应一块额外镜像磁盘
    • 真实空间利用率仅50%
    • 容错能力强
  • RAID 0+1(✔高带宽,✔容错强)
    • 结合了RAID 0和RAID 1
    • 真实空间利用率仅50%
    • 容错能力强,写入带宽高

关键在于,(多磁盘)并发写入,则高带宽镜像备份,则容错能力强。

3.2 数据库

3.2.1 基本概念

关系:集合,即任意元素组成的若干有序偶对,反映了事物间的联系。

关系代数:对关系做运算的抽象查询语言,如:交、并、笛卡尔积等。

SQL:一种方便人类阅读的关系代数表达形式(语言)。

3.2.2 数据库特点

关系型数据库特点:关系型数据库是存储系统,但是在存储之外,又发展出其他能力。

  • 结构化数据友好
  • 支持事务(ACID)
  • 支持复杂查询语言(SQL)

非关系型数据库特点:非关系型数据库也是存储系统,但是一般不要求严格结构化。

  • 半(非)结构化数据友好
  • 可能支持事务(ACID)
  • 可能支持复杂查询语言(SQL)

3.2.3 数据库 vs 经典存储

结构化数据管理

事务能力

复杂查询能力

image.png

4 主流产品剖析

5 新技术演进