大数据-93 SparkSQL 全面解析：SQL + 分布式计算的完美结合

武子康
114 阅读11分钟

点一下关注吧！！！非常感谢！！持续更新！！！

🚀 AI篇持续更新中！（长期更新）

AI炼丹日志-31- 千呼万唤始出来 GPT-5 发布！“快的模型 + 深度思考模型 + 实时路由”，持续打造实用AI工具指南！📐🤖

💻 Java篇正式开启！（300篇）

目前2025年09月08日更新到： Java-118 深入浅出 MySQL ShardingSphere 分片剖析：SQL 支持范围、限制与优化实践 MyBatis 已完结，Spring 已完结，Nginx已完结，Tomcat已完结，分布式服务正在更新！深入浅出助你打牢基础！

📊 大数据板块已完成多项干货更新（300篇）：

包括 Hadoop、Hive、Kafka、Flink、ClickHouse、Elasticsearch 等二十余项核心组件，覆盖离线+实时数仓全栈！ 大数据-278 Spark MLib - 基础介绍 机器学习算法 梯度提升树 GBDT案例 详解

请添加图片描述

章节内容

上节完成的内容如下：

  • Standalone提交
  • SparkContext相关概念
  • Shuffle 概念、历史、V1和V2对比

在这里插入图片描述

SparkSQL 概述

简单介绍

SparkSQL 是 Apache Spark 中用于处理结构化数据的模块。它不仅支持 SQL 查询，还允许你将 SQL 查询与 Spark 的其他强大功能结合使用，如数据流处理和机器学习。SparkSQL 提供了对数据的高度优化的访问方式，可以处理大量的结构化和半结构化数据集。

核心功能

SQL 支持

SparkSQL 提供了完整的 ANSI SQL 兼容性，允许用户使用标准的 SQL 语句查询数据。与 HiveQL 类似但更强大，支持包括：

  • 基本查询操作：SELECT、WHERE、ORDER BY 等
  • 复杂操作：JOIN（包括内连接、外连接）、GROUP BY 聚合、子查询、窗口函数
  • 数据定义语言：CREATE TABLE、ALTER TABLE 等
  • 数据控制语言：GRANT、REVOKE 等权限管理

例如，可以执行如下复杂查询：

SELECT 
    dept.name, 
    AVG(salary) as avg_salary,
    RANK() OVER (PARTITION BY dept.id ORDER BY salary DESC) as rank
FROM employees
JOIN departments dept ON employees.dept_id = dept.id
WHERE hire_date > '2020-01-01'
GROUP BY dept.id, dept.name

数据框 API

数据框（DataFrame）是 SparkSQL 的核心抽象，具有以下特点：

  • 分布式特性：数据自动分区存储在集群节点上
  • 强类型：支持多种数据类型（StringType、IntegerType等）
  • 丰富的操作接口：
    • 转换操作：select()、filter()、groupBy()
    • 行动操作：count()、show()、collect()
    • 类SQL方法：where()、orderBy()

示例代码：

# 从JSON创建DataFrame
df = spark.read.json("hdfs://path/to/data.json")

# 执行转换和过滤
result = df.select("name", "age")\
           .filter(df.age > 30)\
           .groupBy("department")\
           .agg({"salary": "avg"})

# 显示结果
result.show()

与其他 Spark 组件的集成

SparkSQL 与 Spark 生态深度集成：

  1. Spark Streaming：可以将实时流数据转换为DataFrame进行处理

    val streamDF = spark.readStream
  .format("kafka")
  .option("kafka.bootstrap.servers", "host1:port1")
  .load()

  2. Spark MLlib：DataFrame可直接作为机器学习算法的输入

    from pyspark.ml import Pipeline
from pyspark.ml.classification import LogisticRegression

lr = LogisticRegression(featuresCol="features")
pipeline = Pipeline(stages=[lr])
model = pipeline.fit(trainDF)

Catalyst 优化器

Catalyst 优化器的工作流程：

  1. 解析阶段：将SQL/DataFrame操作转换为逻辑计划
  2. 优化阶段：应用规则优化：
    • 谓词下推（Pushdown Predicates）
    • 列剪裁（Column Pruning）
    • 常量折叠（Constant Folding）
    • 分区裁剪（Partition Pruning）
  3. 物理计划生成：选择最优执行策略

例如，对于查询：

SELECT name FROM users WHERE age > 20

优化器会自动将过滤条件"age > 20"下推到数据源读取阶段，减少数据传输量。

统一的数据访问

支持连接各种数据源：

  1. 内置连接器：

    • 文件格式：Parquet、JSON、CSV、ORC
    • 数据库：JDBC（MySQL、PostgreSQL等）
    • 大数据存储：Hive、HDFS

  2. 扩展连接器：

    • 云存储：S3、Azure Blob Storage
    • NoSQL：Cassandra、MongoDB
    • 消息队列：Kafka

示例连接代码：

// 读取Parquet文件
val parquetDF = spark.read.parquet("hdfs://path/to/file.parquet")

// 连接MySQL
val jdbcDF = spark.read
  .format("jdbc")
  .option("url", "jdbc:mysql://localhost:3306/db")
  .option("dbtable", "table1")
  .load()

使用场景

  • 数据仓库和商业智能：利用 SparkSQL 可以对大规模数据集进行复杂的查询和分析，非常适合用于数据仓库和商业智能场景。
  • 数据集成：SparkSQL 可以集成多个不同的数据源，将它们整合成一个统一的视图进行处理。
  • 数据管道：在数据管道中，SparkSQL 常用于数据的清洗、转换和聚合。

Hive

  • Hive的诞生，主要是因为MapReduce程序对Java的要求比较高，为了他们能够操作HDFS上的数据，推出了Hive。
  • Hive 和 RDBMS 的 SQL模型比较类似，容易掌握。
  • Hive 的主要缺陷在于它的底层是基于MapReduce的，执行比较慢。

Spark 0.x: Shark

在Spark 0.x版的时候推出了Shark，Shark与Hive是紧密关联的，Shark底层很多东西还是依赖于Hive，修改了内存管理、物理计划、执行三个模块，底层使用Spark基于内存的计算模型，性能上比Hive提升了很多倍。 Shark更多的是对Hive的改造，替换了Hive的物理执行引擎，提高了执行速度。但Shark继承了大量的Hive代码，因为给优化和维护带来了大量的麻烦。

Spark 1.x: Shark

在Spark1.x版本时Shark被淘汰，在2014年7月1日的SparkSummit上，Databricks宣布终止对于Shark的开发，将重点放到了 SparkSQL 上。 Shark终止后，产生了两个分支：

  • Hive On Spark：Hive社区的，源码在Hive中
  • Spark SQL （Spark On Hive）：Spark社区的，源码在Spark中

Spark 3.0

Spark3.0 超过3400个Jira问题被解决，下面是各个核心组件中分布情况： 在这里插入图片描述

Spark SQL 特点

Spark SQL 作为 Apache Spark 生态系统中的核心组件，自2014年发布以来成功接替了 Shark 项目，为大数据处理领域提供了高性能的 SQL-on-Hadoop 解决方案。它不仅延续了 Shark 的优势，还通过技术创新显著提升了处理能力。

核心优势

  1. 开发效率提升

    • 通过统一的数据抽象（DataFrame/Dataset）减少了代码量
    • 示例：相比RDD API，同样的聚合操作可减少30-50%的代码
    • 支持多种语言接口（Scala、Java、Python、R）

  2. 内存优化存储

    • 采用列式存储格式（Tungsten格式）而非传统JVM对象存储
    • 内存使用效率提升4-5倍
    • 支持压缩（如字典编码、位打包等）
    • 自动选择最优的数据布局（行存/列存）

  3. 性能优化技术

    • Catalyst优化器：
      • 基于规则的查询优化
      • 成本模型驱动的执行计划选择
      • 谓词下推等优化策略
    • Tungsten引擎：
      • 内存管理优化
      • 缓存感知计算
      • 代码生成技术
    • 基准测试显示比Hive快10-100倍

应用场景

  1. 交互式查询：支持亚秒级响应的即席查询
  2. ETL处理：高效处理结构化数据转换
  3. 流批一体：与Structured Streaming集成实现实时分析
  4. 机器学习：为MLlib提供结构化数据支持

架构创新

  • 统一的数据处理API（DataFrame作为抽象）
  • 与Spark核心引擎深度集成
  • 支持多种数据源（Hive、Parquet、JSON等）
  • 提供JDBC/ODBC接口便于BI工具集成

通过上述技术创新，Spark SQL成功实现了"写更少代码、读更少数据、获得更好性能"的设计目标，成为大数据时代处理结构化数据的首选工具之一。

Spark SQL 数据抽象

Spark SQL 提供了两个新的抽象，分别是：

  • DataFrame
  • DataSet

DataFrame

DataFrame 的前身是SchemaRDD，Spark 1.3更名为 DataFrame，不继承RDD，自己实现了RDD的大部分功能。 与RDD类似，DataFrame也是一个分布式的数据集：

  • DataFrame可以看做分布式Row对象的集合，提供了由列组成的详细模式信息，使其可以得到优化-
  • DataFrame不仅有比RDD更多的算子，还可以进行执行计划的优化
  • DataFrame更像传统数据的二维表格，除了数据以外，还记录数据的结构信息，即 Schema
  • DataFrame支持嵌套数据类型（struct、array、map）
  • DataFrame API 提供了一套高层的关系操作，比函数式的RDD API要更加友好，门槛更低。
  • DataFrame 的劣势在于编译期间缺少安全检查，导致运行时出错。

下图是RDD存储和DataFrame存储的对比图： 在这里插入图片描述

Dataset

Dataset是在Spark1.6中添加的新的接口

  • 与RDD相比，保存了更多的描述信息，概念上等同于关系型数据库中的二维表
  • 与DataFrame相比，保存了类型信息，是强类型的，提供了编译时类型检查
  • 调用Dataset的方法先会生成逻辑计划，然后Spark的优化器进行优化，最终生成物理计划，然后提交到集群中运行
  • Dataset包含了DataFrame的功能，在Spark2.0中两者得到了统一，DataFrame表示为Dataset[Row]，即Dataset的子集

在这里插入图片描述

Row & Schema

DataFrame = RDD[Row] + Schema。DataFrame的前身是 SchemaRDD Row是一个泛化、无类型的JVM Object

我们可以启动 spark-shell 进行直观的体验：

spark-shell --master local[*]

尝试运行下面的代码：

import org.apache.spark.sql.Row

val row1 = Row(1, "abc", 1.2)

row1(0)
row1(1)
row1(2)

row1.getInt(0)
row1.getString(1)
row1.getDouble(2)

row1.getAs[Int](0)
row1.getAs[String](1)
row1.getAs[Double](2)

运行过程如下所示： 在这里插入图片描述

三者共性

  • RDD、DataFrame、Dataset是Spark平台下的分布式弹性数据集，为处理海量数据提供便利
  • 三者都有许多相同的概念，如分区、持久化、容错等，有许多共同的函数，如 Map、Filter、SortBy
  • 三者都有惰性机制，只有在遇到Action算子时，才会开始真正的计算。
  • 对DataFrame和Dataset进行操作许多操作都需要这个包进行支持（import spark.implicits._）

三者区别

DataFrame（DataFrame = RDD[Row] + Schema）

  • 与RDD和DataSet不同，DataFrame每一行的类型固定为Row，只有通过解析才能获取各个字段的值
  • DataFrame与Dataset均支持SparkSQL的操作

Dataset(Dataset = RDD[case class].toDS)

  • Dataset和DataFrame拥有完全相同的成员函数，区别只是每一行的数据类型不同
  • DataFrame 定义为 Dataset[Row]，每一行的类型是Row，每一行究竟有哪些字段，各个字段又是什么类型都无从得知，只能用前面的提到的getAs的方式来拿出字段
  • Dataset每一行的类型都是一个 case class，在自定义了 case class之后可以很自由的获得每一行的信息

数据类型

SparkSQL 支持多种数据类型，这些数据类型可以表示不同种类的结构化数据。理解这些数据类型有助于你在使用 SparkSQL 进行数据处理时，正确地定义和操作数据。

基本类型

  • StringType：表示字符串类型的数据。用于存储文本数据。
  • BinaryType：表示二进制数据类型，用于存储字节数组。
  • BooleanType：表示布尔类型的数据，只有两个可能的值：true 和 false。
  • DateType：表示日期类型的数据，不包含时间部分。格式通常为 YYYY-MM-DD。
  • TimestampType：表示时间戳类型的数据，包含日期和时间。格式通常为 YYYY-MM-DD HH:MM:SS.SSSSSS。
  • DoubleType：表示双精度浮点数类型的数据。用于存储高精度的数值。
  • FloatType：表示单精度浮点数类型的数据。比 DoubleType 占用更少的存储空间，但精度较低。
  • ByteType：表示一个 8 位有符号整数的数据类型。取值范围为 -128 到 127。
  • ShortType：表示一个 16 位有符号整数的数据类型。取值范围为 -32768 到 32767。
  • IntegerType：表示一个 32 位有符号整数的数据类型。取值范围为 -2147483648 到 2147483647。
  • LongType：表示一个 64 位有符号整数的数据类型。用于存储长整型数据。
  • DecimalType：表示精确的小数类型的数据。通常用于存储货币或需要精确计算的小数。

复杂类型

  • ArrayType：表示一个数组类型，可以存储相同数据类型的多个值。它的元素类型可以是任何数据类型（包括嵌套的复杂类型）。
  • MapType：表示键值对（key-value pairs）的集合，类似于哈希表或字典。键和值都可以是任意数据类型。
  • StructType：表示一个结构体类型，类似于关系数据库中的行。它由一组字段组成，每个字段都有一个名称和类型。StructType 是用来定义表的模式的主要方式。

特殊类型

  • NullType：表示空值的类型，通常在处理空数据或缺失数据时使用。
  • CalendarIntervalType：表示一个时间间隔，用于存储时间差异，例如几年几个月几天。

在这里插入图片描述

avatar
文章
阅读
粉丝