Presto 架构原理与优化介绍 | 青训营笔记

JHoves
74 阅读5分钟

这是我参与「第四届青训营」笔记创作活动的第六天

一、概述

2.1 什么是大数据

在信息化时代背景下，由于信息交互，信息存储，信息处理能力大幅增加而产生的数据

2.2 什么是OLAP

OLAP (OnLine Analytical Processing) 对业务数据执行多维分析，并提供复杂计算，趋势分析和复杂数据建模的能力。是许多商务智能（BI）应用程序背后的技术。现如今OLAP已经发展为基于数据库通过SQL对外提供分析能力

OLAP VS MapReduce

  • 1.MapReduce代表了抽象的物理执行模型，使用门槛较高
  • 2.与Mapreduce Job相比，OLAP引擎常通过SQL的形式，为数据分析、数据开发人员提供统一的逻辑 描述语言，实际的物理执行由具体的引擎进行转换和优化。

OLAP核心概念

  • 维度
  • 度量

image.png

常见的OLAP擎

  • 预计算引擎：Kylin,Druid
  • 批式处理引擎：Hive,Spark
  • 流式处理引擎：Flink
  • 交互式处理引擎：Presto,Clickhouse,Doris

2.3 Presto设计理念

Presto最初是由facebook研发的构建于Hadoop/HDFS系统之上的PB级交互式分析引擎，其具有如下的特点：

  • 多租户任务的管理与调度
  • 多数据源联邦查询
  • 支持内存化计算
  • pipeline式数据处理

image.png

二、Presto基础原理与概念

2.1 基础概念介绍——服务相关

image.png

  • Coordinator
    • 解析SQL语句
    • 生成执行计划
    • 分发执行任务给Worker节点
  • Worker
    • 执行Task处理数据
    • 与其他Worker交互传输数据

2.2 基础概念介绍——数据源相关

image.png

  • Connector:
    • 一个Connector代表一种数据源。可以认为Connector是由Presto提供的适配多数据源的统一接口。
  • Catalog:
    • 管理元信息与实际数据的映射关系。

2.3 基础概念介绍——Query相关

  • Query
    • 基于SQL parser后获得的执行计划
  • Stage
    • 根据是否需要shuffle将Quey拆分成不同的subplan,每一个subplan便是一个stage
  • Fragment
    • 基本等价于Stage,属于在不同阶段的称呼，在本门课程可以认为两者等价
  • Task
    • 单个Worker节点上的最小资源管理单元：在一个节点上，一个Stage只有一个Task,一个Query可能有多个Task
  • Pipeline
    • Stage按照LocalExchange切分为若干Operator集合，每个Operator集合定义一个Pipeline.
  • Driver
    • Pipeline的可执行实体，Pipeline和Driver的关系可类比程序和进程，是最小的行单元，通过火山迭代模型执行每个Operator
  • Split
    • 输入数据描述（数据实体是Page),数量上和Driver一一对应，不仅代表实际数据源split,也代表了不同stagel间传输的数据
  • Operator
    • 最小的物理算子

2.4 基础概念介绍——数据传输相关

  • Exchange:
    • 表示不同Stage间的数据传输，大多数意义下等价于Shuffle
  • LocalExchange:
    • Stage内的rehash操作，常用于提高并行处理数据的能力(Task在Presto中只是最小的容器，而不是最小的执行单元)
  • calExchange的默认数值是16。

Q:如何衡虽某个任务某个Stage的真实井行度？ A:在不同Pipeline下Split(Driver)的数目之和

2.5 核心组件架构介绍——Presto架构图

image.png

2.6 核心组件架构介绍——服务发现

image.png

Discovery Service:
1.Worker配置文件配置Discovery Service地址
2.Worker节点启动后会向Discovery Service注册
3.Coordiantor从Discovery Service获取Worker的地址

2.7 核心组件架构介绍——通信机制

通信机制

  • 1.Presto Client/JDBC Client与Server间通信 -Http
  • 2.Coordinator与Norker间的通信
    • Thrift/Http
  • 3.Norker与Norker间的通信
    • Thrift/Http Http 1.1 VS Thrift
  • Thit具有更好的数据编码能力，Htp1.1还不支持头部信息的压缩，Thit具有更好的数据压缩率

节点状态

  • ACTIVE
  • INACTIVE
  • SHUTDOWN

三、Presto重要机制

3.1 多租户资源管理

  1. Presto用户多租户隔离的手段是什么？
  • Presto 通过Resource Group对不同的用户创建不同Group从而实现不同租户，不同场景的资源管理
  1. Presto Resource Group的优缺点 优点：支持通配符的形式，对不同租户，不同提交场景下的用户进行限制
    缺点：资源的管理和判断是以当前用户正在运行的SQL资源使用量为基准，对于低频大SQL场景不太适用

3.2 多租户下的任务调度

  1. 多租户下的任务调度——物理计划生成**
  • 1.Antlr4解析生成AST
  • 2.转换成Logical Plan
  • 3.按照是否存在Shuffle，切分成不同的Stage
  1. Presto是从哪几个方面实现了多租户的任务调度
  • Stage调度策略
  • Task的节点选择策略
  • Split调度策略

Stage调度策略

1.Stage的调度策略

  • AllAtOnceExecutionPolicy——同时调度（延迟点，会存在任务空跑）
  • PhasedExecutionPolicy——分阶段调度（有一点延迟，节省部分资源）

2.PhasedExecutionPolicy

  • 不代表每个tage都分开调度
  • 典型的应用场导(join查询)
    • Build瑞：右表构建用户join的hashtable
    • Probe端：对用户左表数进行探查，要等待build瑞完成
    • Build端构建hashtablei端时，probe端是一直在空跑的

Task调度

1.Task的数量如何确定：

  • Source:根据数据meta决定分配多少个节点
  • Fixed:hash partition count确定，如集群节点数
  • Sink:汇结果，一台机器
  • Scaled:无分区限制，可拓展，如write数据
  • Coordinator_Only:只需要coordinator参与

2.选择什么样的节点

  • HARD AFFINITY:计算、存储LOC阳l模式，保障计算与存储在同一个节点，减少数据传输
  • SOFT AFFINITY:基于某些特定算法，如一致性HASH函数，常用于缓存场是，保证相似的Task调度到同一个worker
  • NO PREFERENCE:随机选取，常用于普通的纯计算TaSk

Split调度

  • FIFO
  • 优先级调度：快速响应

3.3 内存计算

Pipeline化的数据处理：更好的实现算子间的并行，保证了每个Task内的数据流式处理 · Back pressure Mechanism：控制split生成流程与operator的执行

3.4 多数据源联邦查询

将各个数据源进行统一的抽象，最后由presto server进行统一的物理执行。

局限性：

  • 元数据管理与映射
  • 调词下推
  • 数据源分片
avatar
文章
阅读
粉丝