Presto架构原理与优化介绍 | 青训营笔记

yuanyuan123
81 阅读4分钟

这是我参与「第四届青训营 -大数据场」笔记创作活动的第10篇笔记

本文已参与「新人创作礼」活动， 一起开启掘金创作之路。

OLAP

OLAP(Online Analytical Processing)

对业务数据执行多维分析，并提供复杂计算，趋势分析和复杂数据建模的能力。是许多商务智能(BI)应用程序背后的技术。

Presto设计思想

Presto的特点：

  1. 多租户任务的管理与调度
  2. 多数据源联邦查询
  3. 支持内存化计算
  4. Pipeline式数据处理

Presto基础原理与概念

image.png

蓝色方框Client表示客户端

红色方框表示Presto

黄色部分表示数据源

Coordinator

  1. 解析SQL语句
  2. 生成执行计划
  3. 分发执行任务给Worker节点

Worker

  1. 执行Task处理数据
  2. 与其他Worker交互传输数据

数据源

image.png

Connector

一个Connector代表一种数据源。可以认为Connector是由Presto提供的适配多数据源的统一接口

Catalog

管理元信息与实际数据的映射关系

Query

  1. Query：基于SQL parser 后获得的执行计划
  2. Stage：根据是否需要shuffle将Query拆分成不同的subplan，每一个subplan便是一个stage
  3. Fragment：基本等价于Stage，属于在不同阶段的称呼
  4. Task：单个Worker节点上的最小资源管理单元：在一个节点上，一个Stage只要一个Task，一个Query可能有多个Task
  5. Pipeline：Stage按照LocalExchange切分为若干Operator集合，每个Operator集合定义一个Pipeline
  6. Driver：Pipeline的可执行实体，Pipeline和Driver的关系可类比程序和进程，是最小的执行单元，通过火山迭代模型执行每一个Operator
  7. Split：输入数据描述(数据实体是Page)，数量上和Driver一一对应，不仅代表实际数据源split，也代表了不同stage间传输的数据
  8. Operator：最小的物理算子

数据传输

  1. Exchange：表示不同Stage间的数据传输，大多数意义下等价于Shuffle
  2. LocalExchange：Stage内的rehash操作，常用于提高并行处理数据的能力(Task在Presto中只是最小的容器，而不是最小的执行单元)

核心组件架构

image.png

服务发现(Discivery Service):

image.png

  1. Worker配置文件配置Discivery Service地址
  2. Worker节点启动后会向Discivery Service注册
  3. Coodiantor 从Discivery Service获取Worker的地址

通信机制：

  1. Presto Client / JDBC Client 与 Server 间通信
  2. Coordinator 与 Worker 间的通信
  3. Worker 与 Worker 间的通信

节点状态：

  1. ACTIVE
  2. INACTIVE
  3. SHUTDOWN

Presto 重要机制

多租户资源管理

Resource Group

类似Yarn多级队列的资源管理方式

基于CPU、MEMORY、SQL执行数进行资源使用量限制

优点：

轻量的Query级别的多级队列资源管理模式

缺点：

存在一定滞后性，只会对Group中正在运行的SQL进行判断

多租户下的任务调度

物理计划生成

image.png

  1. Antlr4解析生成AST
  2. 转换成Logical Plan
  3. 按照是否存在Shuffle(Exchange)，切分成不同的Stage(Fragment)

Stage调度

分为同时调度(AllAtOnceExecutionPolicy)和分阶段调度(PhasedExecutionPolicy)

image.png

PhasedExecutionPolicy:

不代表每个Stage都分开调度

Task调度

Task的数量如何确定？

  1. Source：根据数据meta决定分配多少个节点
  2. Fixed：hash partition count 确定
  3. Sink：汇聚结果，一台机器
  4. Scaled：无分区限制，可拓展
  5. Coordinator_Only：只需要Coordinator参与

选择什么样的节点？

  1. HARD_AFFINITY:计算、存储Local模式，保障计算与存储在同一个节点，减少数据传输
  2. SOFT_AFFINITY:基于某些特定算法，如一致性HASH函数，常用于缓存场景，保证相似的Task调度到同一个Worker
  3. NO_PREFERENCE:随机选取，常用于普通的纯计算Task

Split调度：

  1. FIFO：顺序执行，绝对公平
  2. 优先级调度：快速响应

优势：

  1. 优先保证小Query快速执行
  2. 保障大Query存在固定比例的时间片，不会被完全饿死

内存计算

Pipeline化数据处理

PipeLine(按LocalExcange拆分)：

  1. Pipeline的引入更好的实现算子间的并行
  2. 语义上保证了每个Task内的数据流式处理

Back Pressure Mechanism

反压机制

  1. 控制split生成流程
  2. 控制operator的执行

多数据源联邦查询

将各个数据源进行统一的抽象，最后由presto server进行统一的物理执行

image.png

avatar
文章
阅读
粉丝