这是我参与「第五届青训营 」伴学笔记创作活动的第 10 天
分布式定时任务
定时任务是指系统为了自动完成特定任务,实时、延时、周期性完成任务调度的过程。分布式定时任务是把分散的、可靠性差的定时任务纳入统一的平台,并实现集群管理调度和分布式部署的一种定时任务的管理方式。如定时任务是属于特定时间出发;延时任务属于10s后执行;固定周期任务指每天或者每几秒运行。
定时任务的特点有自动化:全自动完成定时任务的调度和执行。平台化:基于平台化的思维管控一系列的分布式定时任务。分布式:在分布式系统环境下运行任务调度,突破单机定时任务的性能瓶颈。伸缩性:采用集群方式部署,可以随时按需扩容。高可用:单点故障不影响最终任务结果,可以做到故障转移
分布式定时任务执行方式
单机任务:随机触发一台机器执行任务,适用于计算量小、并发度低的任务。
广播任务:广播到所有机器上执行同一个任务,比如所有机器一起清理日志。
Map任务:一个任务可以分出多个子任务,每个子任务负责一部分的计算。适用于计算量大,单机无法满足要求的任务。
MapReduce任务:在map任务的基础上,可以对所有子任务的结果做汇总计算,适用于计算量大,并且需要对子任务结果进行汇总的任务。
分布式定时任务核心架构
分布式定时任务核心要解决触发、调度、执行三个关键问题。
触发器:Trigger,解析任务,生成触发事件
调度器:Scheduler,分配任务,管理任务生命周期
执行器:Executor,获取执行任务单元,执行任务逻辑。
管理台:Admin,提供任务管理和干预功能。
基本概念
任务元数据job是用户对任务属性定义,包括任务类型调度时机、执行行为。 任务实例是一个确定的Job的一次运行实例。
触发器
给定一系列任务,解析它们的触发规则,在规定的时间点触发任务的调度;设计约束:需支持大量任务,秒级的调度以及周期多次执行,保证秒级扫描高性能避免资源浪费。
方案1:定时扫描+延时消息
方案2:时间轮,是一种高效利用线程资源进行批量化调度的一种调度模型。时间轮是一个存储环形队列,底层采用数组实现,数组中的每个元素可以存放一个定时任务列表
触发器高可用问题
不同的业务之间,任务的调度相互影响怎么办?负责扫描和触发的机器挂了怎么办?
思路:存储上不同国别,业务上做资源隔离;运行时,不同国别,业务分开执行;部署时,采用多机房集群联合部署,避免单点故障,使用数据库锁和分布式锁保证任务只被触发一次
调度器
资源调度-节点选择
1、随机节点选择:定时对账
2、广播执行:在集群的所有节点分发任务并执行:批量运维
3、分片执行:按照用户自定义分片逻辑进行拆分和执行:海量日志统计
故障转移
使用一致性哈希来进行故障转移
高可用
集群部署,靠消息队列的重发机制进行高可用
执行器
注册,调度,回调、心跳检测