分布式定时任务那些事儿 | 青训营笔记

222 阅读6分钟

前言:这是我参与「第三届青训营-后端场」笔记创作活动的第4篇笔记。这篇笔记记录了「分布式定时任务那些事儿」这一节的内容。

一、本堂课重点内容

  1. 分布式定时任务的基本概念
  2. 分布式定时任务的实现原理

二、详细知识点介绍

1 分布式定时任务基本概念

定时任务是指系统为了自动完成特定任务,实时、延时、周期性完成任务调度的过程。

分布式定时任务是把分散的、可靠性差的定时任务纳入统一的平台,并实现集群管理调度分布式部署的一种定时任务的管理方式。

1.1 定时任务分类

按触发时机分类的三个概念:

  • 定时任务:特定时间触发,比如今天15:06执行
  • 延时任务:延时触发,比如10s后执行
  • 周期任务:固定周期时间,或固定频率周期调度触发,比如每隔5s或者每天12点执行

1.2 分布式定时任务的特点

  • 自动化:全自动完成定时任务的调度和执行
  • 平台化:基于平台化的思维管控一系列的分布式定时任务
  • 分布式:在分布式系统环境下运行任务调度,突破单机定时任务的性能瓶颈
  • 伸缩性:采用集群方式部署,可以随时按需扩容和缩容
  • 高可用:单点故障不影响最终任务结果,可以做到故障转移

1.3 分布式定时任务的执行方式

  • 单机任务:随机触发一台机器执行任务,适用于计算量小、并发度低的任务
  • 广播任务:广播到所有的机器上执行同一个任务,比如:清理日志
  • Map任务:一个任务可以分出多个子任务, 每个子任务负责一部分的计算。适用于计算量大,单机无法满足要求的任务。
  • MapReduce任务:在Map任务的基础上,还可以对所有子任务的结果做汇总计算,适用于计算量大,并且需要对子任务结果做汇总的任务。

举例:

2022-06-02-22-20-12-image.png

在一个春节集卡瓜分奖金的活动中,每个用户的发奖金额计算这一部分应当使用MapReduce任务,而最终开奖环节则应当使用Map任务。

2 业内定时任务框架

2022-06-02-22-22-28-image.png

其中Xxl-job框架是一个轻量级分布式任务调度框架,其核心设计目标是开发迅速、学习简单、轻量级、易扩展。Xxl-job支持分片,简单支持任务依赖,支持子任务依赖,不是跨平台的。该框架的优势在于开源且免费,开箱即用,操作简单,上手快,维护成本不高,在中小型公司中使用非常广泛。

3 分布式定时任务的实现原理

3.1 核心架构

分布式定时任务要解决的三个核心问题:触发、调度、执行

2022-06-02-22-31-02-image.png

  • 触发器:Trigger,解析任务,生成触发事件
  • 调度器:Scheduler,分配任务,管理任务生命周期
  • 执行器:Executor,获取执行任务单元,执行任务逻辑
  • 控制台:Admin,提供任务管理和干预的功能。

3.1.1 数据流

2022-06-02-22-34-16-image.png

3.1.2 功能架构

2022-06-02-22-35-11-image.png

3.2 控制台

2022-06-02-22-38-12-image.png

  • 任务:Job,任务元数据。是用户对任务的属性定义,包括任务类型、调度时机、执行行为等。
  • 任务实例:JobInstance,周期任务会生成多个任务实例。
  • 任务结果:JobResult,任务实例运行的结果。
  • 任务历史:JobHistory,用户修改任务信息后,任务数据会改变,需要存储历史。

其中,任务和任务实例之间的关系可以类比成类与类生成实例之间的关系。任务定义了该任务的所有属性,而根据该任务信息可以实例化得到任务实例,任务实例通过job_id与任务进行关联。任务实例是有状态的,可以处于任务生命周期中的不同阶段,其带有运行过程信息以及结果信息。

3.3 触发器

3.3.1 核心职责

给定一系列任务,解析它们的触发规则,在规定的时间点触发任务的调度

设计约束

  • 需要支持大量任务
  • 需要支持秒级的调度
  • 周期任务需要多次执行
  • 需要保证秒级扫描的高性能,避免资源浪费

3.3.2 实现方案

3.3.2.1 定时扫描+延时消息

2022-06-02-22-57-34-image.png

通过定时扫描器周期性的扫描数据库中的任务数据,将符合要求的任务交给processorprocessor再通过延时消息的方式,让消息在预定的时间点被触发。

3.3.2.2 时间轮

该方案是Quartz采用的方案,时间轮是一种高效利用线程资源进行批量化调度的一种调度模型。时间轮是一个存储环形队列,底层采用数组实现,数组中的每一个元素可以存放一个定时任务列表。

2022-06-02-23-04-55-image.png

3.4 调度器

调度器面临的两大问题:资源来源、资源调度

3.4.1 资源来源

资源来源大致分为两种:业务系统提供机器资源、定时任务平台提供机器资源

业务系统提供定时任务平台提供
优点任务执行逻辑与业务系统共用一份资源,利用率更高任务执行逻辑与业务系统提供的在线服务隔离,避免相互影响;可以优雅支持扩缩容
缺点更容易发生定时任务脚本影响在线服务的事故;不能由定时任务平台控制扩缩容消耗更多的机器资源;需要额外为定时任务平台申请接口调用权限,而不能直接继承业务系统的权限

3.4.2 资源调度

3.4.2.1 节点选择

2022-06-02-23-27-02-image.png

3.4.2.2 任务分片

2022-06-02-23-27-07-image.png

3.5 执行器

2022-06-02-23-28-18-image.png

三、课后个人总结

通过本次课程,我对定时任务、分布式定时任务的概念有了深刻的认识。对分布式定时任务的分类、特点、执行方式、使用场景都有了一定的了解。在实现原理部分,我对分布式定时任务具体的实现方式有了了解。学习了基本架构模型后,再对特定的分布式定时任务框架进行学习时,可以更加清晰的确定学习路线和学习重点。

四、引用参考