分布式定时任务 | 青训营笔记

57 阅读3分钟

这是我参与「第五届青训营 」伴学笔记创作活动的第 10 天

分布式定时任务

定时任务是指系统为了自动完成特定任务,实时、延时、周期性完成任务调度的过程。分布式定时任务是把分散的、可靠性差的定时任务纳入统一的平台,并实现集群管理调度和分布式部署的一种定时任务的管理方式。如定时任务是属于特定时间出发;延时任务属于10s后执行;固定周期任务指每天或者每几秒运行。

定时任务的特点有自动化:全自动完成定时任务的调度和执行。平台化:基于平台化的思维管控一系列的分布式定时任务。分布式:在分布式系统环境下运行任务调度,突破单机定时任务的性能瓶颈。伸缩性:采用集群方式部署,可以随时按需扩容。高可用:单点故障不影响最终任务结果,可以做到故障转移

分布式定时任务执行方式

单机任务:随机触发一台机器执行任务,适用于计算量小、并发度低的任务。

广播任务:广播到所有机器上执行同一个任务,比如所有机器一起清理日志。

Map任务:一个任务可以分出多个子任务,每个子任务负责一部分的计算。适用于计算量大,单机无法满足要求的任务。

MapReduce任务:在map任务的基础上,可以对所有子任务的结果做汇总计算,适用于计算量大,并且需要对子任务结果进行汇总的任务。

分布式定时任务核心架构

分布式定时任务核心要解决触发、调度、执行三个关键问题。

触发器:Trigger,解析任务,生成触发事件

调度器:Scheduler,分配任务,管理任务生命周期

执行器:Executor,获取执行任务单元,执行任务逻辑。

管理台:Admin,提供任务管理和干预功能。

image.png

基本概念

image.png

任务元数据job是用户对任务属性定义,包括任务类型调度时机、执行行为。 任务实例是一个确定的Job的一次运行实例。

触发器

给定一系列任务,解析它们的触发规则,在规定的时间点触发任务的调度;设计约束:需支持大量任务,秒级的调度以及周期多次执行,保证秒级扫描高性能避免资源浪费。

方案1:定时扫描+延时消息

image.png

方案2:时间轮,是一种高效利用线程资源进行批量化调度的一种调度模型。时间轮是一个存储环形队列,底层采用数组实现,数组中的每个元素可以存放一个定时任务列表

触发器高可用问题

不同的业务之间,任务的调度相互影响怎么办?负责扫描和触发的机器挂了怎么办?

思路:存储上不同国别,业务上做资源隔离;运行时,不同国别,业务分开执行;部署时,采用多机房集群联合部署,避免单点故障,使用数据库锁和分布式锁保证任务只被触发一次

调度器

资源调度-节点选择

1、随机节点选择:定时对账

2、广播执行:在集群的所有节点分发任务并执行:批量运维

3、分片执行:按照用户自定义分片逻辑进行拆分和执行:海量日志统计

故障转移

使用一致性哈希来进行故障转移

高可用

集群部署,靠消息队列的重发机制进行高可用

执行器

注册,调度,回调、心跳检测