学习分布式定时任务 | 青训营

ZJHao
87 阅读4分钟

前言

例子：抖音春节集卡瓜分红包活动\

自动化 + 定时执行 + 海量数据 + 高效稳定 = 分布式定时任务

发展历程

  • windows 批处理，常见的 .bat 文件，eg. shutdown -s -t 60，60s 后关机。
  • windows 任务计划程序，计算机管理->任务计划程序，eg. 每天12:00疫情打卡。
  • linux 命令- crontab 简单可靠；eg. 每天12:00定时清理机器日志；单台机器无法跨平台。
  • 单机定时任务，Java 里的 Timer，Go 里的 Ticker；eg. 每隔5分钟刷新本地数据；跨平台，单机可用
  • 单机定时任务，Java 里的 ScheduledExecutorService，eg. 每隔5分钟执行多个任务；拥有线程池功能，单机可用
  • 任务调度-Quartz，作业调度框架，Java 编写；单任务极致控制，无负载均衡机制
  • 分布式定时任务，平台化管理+分布式部署+支持海量数据
    • 定时或延时或周期性 触发
    • 自动化+平台化+分布式+伸缩性+高可用 特点
    • 单机任务+广播任务+Map 任务+MapReduce 任务 执行方式
    • Map 与 MapReduce 举例
  • 业内定时任务框架
    • Xxl-Job，美团，开源，轻量级，适合中小型业务
    • SchedulerX，阿里巴巴，可商用
    • TCT，腾讯，仅内部使用
  • 关联技术
    • 分布式定时任务 vs 单机定时任务，分布式可支撑更大业务，且性能、伸缩性、稳定性更好
    • 分布式定时任务 vs 大数据处理引擎，大数据处理引擎核心是将源数据处理为结果数据，分布式任务除此外还可以调用 HTTP 和 RPC 服务等

实现原理

核心架构

  • 核心架构
    • 触发 Trigger ，解析任务，生成出发条件
    • 调度 Scheduler ，分配任务，管理任务生命周期
    • 执行 Executor ，获取执行任务单元，执行任务逻辑
    • 控制台 Admin，任务管理与干预

控制台

  • 基本概念
    • 任务 Job，任务元数据，包括调度时机、执行行为等
    • 任务实例 JobInstance，一个确定 Job 的一次运行实例
    • 任务结果 JobResult，
    • 任务历史 JobHistory
    • ps：Job 和 JobInstance 会经历不同的生命周期

触发器

  • 核心职责
    • 给定一系列任务，解析它们的触发规则，在规定的时间点触发任务的调度
  • 设计约束
    • 需支持大量任务
    • 需支持秒级的调度
    • 周期任务需要多次执行
    • 需保证秒级扫描的高性能，并避免资源浪费
  • 实现方案
    • 方案1：定期扫描+延时消息（腾讯、字节方案）
    • 方案2：时间轮（Quartz 所用方案）
      • 查询复杂度和修改复杂度，相比链表或最小堆，都是最优的
      • 多级时间轮结构，解决刻度问题
  • 高可用
    • 核心问题：不同业务调度相互影响怎么办；扫描或触发的机器挂了怎么办
    • 解法思路：
      • 存储上，不同国别、业务做资源隔离
      • 运行时，不同国别、业务分开执行
      • 部署时，采用多机房集群化部署，避免单点故障，通过数据库锁或分布式锁保证任务只被触发一次（一般使用分布式锁，如 Redis 锁或 Zookeeper 锁，性能较高）

调度器

  • 资源来源

    • 业务系统提供机器资源
      • 阿里、字节、美团等
      • 优点：任务执行逻辑与业务系统共用同一份资源，利用率更高
      • 缺点：更容易发生定时任务脚本影响在线服务的事故；不能由定时任务平台控制扩缩容
    • 定时任务平台提供机器资源
      • 字节等
      • 优点：任务执行逻辑与业务系统提供的在线服务隔离，避免相互影响；可以支持优雅地扩缩容
      • 缺点：消耗更多机器资源；需要额外为定时任务平台申请接口调用权限，而不能直接继承业务系统的权限

  • 资源调度

    • 节点选择
      • 随机节点执行，eg. 定时对账
      • 广播执行，eg. 批量运维
      • 分片执行，eg. 海量日志统计
    • 任务分片，单机任务->任务分片<-业务数据
    • 任务编排，DAG 进行可视化任务编排
    • 故障转移，部分执行单元失败，分发到其他 executor 使任务最终成功

  • 高可用

    • 周度器可以集群部署, 做到完全的无状态，靠消息队列的重试机制保障任务一 定会被调度

执行器

基于注册中心，注册+调度+回调+心跳检测，做到执行器的弹性扩缩容。\

业务应用

  • 电商
    • 订单30分钟未付款自动关闭订单（方案对比：延时执行 vs. 消息队列延时消息；胜：任务变化时便于变更）
    • 定时给商家、达人发送消息，给用户发放优惠券等
  • 互动
    • 支付宝集五福
    • 字节春节集卡瓜分红包（方案对比：MapReduce 执行 vs. Hive 离线统计 vs.Flink 实时累计；胜：调用 RPC 请求完成业务逻辑）
  • 游戏
    • 活动结束后批量补发用户未领取奖励
    • 定期更新游戏内榜单
avatar
文章
阅读
粉丝