带你认识存储&数据库 | 青训营

65 阅读6分钟

1. 存储&数据库简介:

1.1 存储系统概览、特点、层级结构

存储系统是计算机中用于存储数据的硬件和软件组合。它的特点包括数据持久性、高速读写、容量扩展性以及可靠性。存储系统可以根据访问速度和成本的不同划分为多个层级,例如主存(内存)、缓存、磁盘存储和磁带存储等。

1.2 数据从应用到存储介质的过程

数据从应用到存储介质的过程通常涉及多个层次的数据传输。首先,数据从应用程序通过操作系统的系统调用写入到内存中,然后可能被缓存。当数据量较大时,可能会被写入到磁盘存储。在存储介质之间,数据会经过不同的层次,读写速度逐渐降低,但存储容量逐渐增大。

1.3 RAID技术

RAID(冗余磁盘阵列)技术是一种通过将多个磁盘组合在一起来提高存储性能和可靠性的技术。RAID技术可以分为多个级别,如RAID 0、RAID 1、RAID 5等,每个级别都有不同的数据分布和冗余机制。

1.4 数据库概览(关系、关系模式、SQL)

数据库是用于存储和管理结构化数据的系统。关系型数据库是最常见的一种,它使用表格来组织数据,表格包含多个行和列。关系模式是表的结构定义,每个表都有一个唯一的名称,而列定义了不同数据的属性。SQL(结构化查询语言)用于管理和查询关系型数据库中的数据。

1.5 关系型数据库与非关系型数据库

关系型数据库使用表格来组织数据,适用于需要强一致性和事务支持的应用。非关系型数据库使用键值对、文档、列族等不同的数据模型,适用于大规模、高可扩展性的应用,但可能牺牲了一些一致性和事务能力。

1.6 数据库与经典存储-结构化数据管理

数据库在结构化数据管理方面具有优势,可以通过定义表格和关系模式来管理数据。这种结构化的方式可以更容易地进行查询、分析和维护,适用于需要有组织的数据的应用。

1.7 数据库与经典存储-事务能力

关系型数据库具备强大的事务支持能力,可以保证多个操作的原子性、一致性、隔离性和持久性(ACID属性)。这对于要求数据完整性和可靠性的应用非常重要。

1.8 数据库与经典存储-复杂查询能力

数据库具备复杂查询能力,可以使用SQL语句进行多表关联、聚合、筛选等操作,从而支持复杂的数据分析和查询需求。

1.9 数据库使用方式

数据库可以通过编程语言的API来进行访问和操作,也可以使用图形界面的数据库管理工具进行操作。开发人员可以使用SQL语句来进行数据的增删改查操作,并通过事务控制来维护数据的一致性和完整性。

2 主流产品剖析

2.1 单机存储:

单机存储指的是将数据存储在单个计算机的存储介质上,包括硬盘、SSD等。这种存储方式适用于小规模的应用,存储容量和性能受限。常见的单机存储解决方案包括文件系统(如ext4、NTFS)和分布式文件系统(如HDFS、Ceph)等。

2.2 分布式存储:

分布式存储将数据存储在多个计算机上,通过网络协作来提供高可用性、容量扩展和性能提升。常见的分布式存储系统包括分布式文件系统(如HDFS、GlusterFS)、对象存储(如Amazon S3、Alibaba Cloud OSS)和分布式块存储(如Ceph RBD)等。

2.3 单机关系型数据库:

单机关系型数据库使用表格来组织数据,提供事务支持和丰富的查询能力。常见的单机关系型数据库产品包括MySQL、PostgreSQL、Microsoft SQL Server等。它们适用于小规模的应用,但在大规模应用中可能面临性能和扩展性的限制。

2.4 单机非关系型数据库:

单机非关系型数据库使用不同的数据模型,如键值对、文档、列族等,以适应不同的应用场景。常见的单机非关系型数据库产品包括Redis(键值对)、MongoDB(文档数据库)、Cassandra(列族数据库)等。

2.5 分布式数据库:

分布式数据库将数据存储在多个节点上,提供高可用性、可扩展性和负载均衡。分布式数据库可以分为两大类:分布式关系型数据库和分布式非关系型数据库。常见的分布式关系型数据库产品包括Google Spanner、CockroachDB,分布式非关系型数据库包括Cassandra、Amazon DynamoDB等。

3 新技术演进

3.1 概览(软件架构变更、AI增强、新硬件革命)

随着技术的发展,存储和数据库领域也在不断演进。新技术主要体现在软件架构的变更、人工智能的增强以及新硬件的革命。软件架构的变更包括微服务架构、容器化和云原生技术的应用,以提高应用的可伸缩性和容错性。AI的增强使得存储和数据库能够更智能地管理数据、优化性能和进行数据分析。新硬件革命包括高性能网络、持久性内存、可编程交换机、多核CPU、强大的GPU和DPU等,这些硬件技术使得存储和数据库能够在性能和功能上有更大的提升。

3.2 SPDK:

SPDK(Storage Performance Development Kit)是一个用于开发高性能存储应用的开源工具包。它通过利用现代存储设备的性能特性,如NVMe SSD和RDMA网络,提供了低延迟、高吞吐量的存储访问接口。SPDK的目标是通过减少IO路径中的中间层和复制,提高存储性能。

3.3 AI&Storage:

人工智能在存储领域的应用越来越广泛,它可以用于数据管理、性能优化和数据分析等方面。AI可以帮助存储系统自动识别数据热点,进行数据迁移和优化,从而提高系统性能。此外,AI还可以用于数据分析,帮助企业从大量数据中挖掘有价值的信息。

3.4 高性能硬件(RDMA网络、Persistent Memory、可编程交换机、CPU从multi-core走向many-core/GPU强大算力和显存空间/DPU异构计算):

高性能硬件技术对存储和数据库的性能提升有重要影响。RDMA(Remote Direct Memory Access)网络可以实现高速数据传输,提高存储系统的吞吐量和降低延迟。持久性内存(Persistent Memory)可以使得数据存储更快速,同时保持数据持久性。可编程交换机可以通过网络控制来提供更灵活的网络拓扑和性能调优。多核CPU向many-core CPU的过渡,以及GPU和DPU的强大算力和显存空间,使得存储和数据库能够在计算和数据处理方面有更大的突破。