分布式定时任务 | 青训营笔记

安静的秃头怪
117 阅读5分钟

  • 任务调度工具——Quartz

    特点：单任务极致控制、没有负载均衡机制

    1684742176382.png

  • 分布式定时任务1684743179032.png

    1. 特点：平台化管理、分布式部署、支持海量数据

      1684742269861.png

    2. 定义

      分布式定时任务是把分散的、可靠性差的定时任务纳入统一的平台，并实现集群管理调度和分布式部署的一种定时任务的管理方式。

    3. 按触发时机分类：

      • 定时任务：特定时间触发
      • 延时任务：延时触发
      • 周期任务：固定周期时间，或固定频率周期调度触发

    4. 执行方式

      • 单机任务：随机触发一台机器执行任务，适用于计算量小、并发度低的任务
      • 广播任务：广播到所有机器上执行同一个任务，比如所有机器一起清理日志
      • Map任务：一个任务可以分出多个子任务，每个子任务负责一部分的计算，适用于计算量大、单机无法满足要求的任务
      • MapReduce任务：在Map任务的基础上，还可以对所有子任务的结果做汇总计算，适用于计算量大、且需要对子任务结果做汇总的任务

    5. 分布式定时任务VS大数据处理引擎

      • 关系：都可以对海量数据做处理，性能、伸缩性、稳定性都很高
      • 差异：定时并不是大数据处理引擎要解决的核心问题；大数据处理引擎往往致力于将源数据处理成结果数据，分布式定时任务除了能做这个外，还可以调用HTTP和RPC服务

    6. 基础架构：触发、调度、执行+控制台 1684742404440.png 1684742473180.png 1684742525889.png

    7. 触发器Trigger

      • 解析任务，生成触发事件

      • 设计约束

        1. 需支持大量任务
        2. 需支持秒级的调度
        3. 周期任务需要多次执行
        4. 需保证秒级扫描的高性能，并避免资源浪费

      • 方案1：定期扫描+延时消息（Tencent、Bytedance） 1684742593811.png

      • 方案2：多级时间轮（Quartz） 1684742836672.png 1684742848738.png 1684742856422.png 1684742867956.png

        循环队列，查询复杂度和修改复杂度均是O（1）

      • 问题：不同业务之间，任务的调度相互影响怎么办？负责扫描和触发的机器挂了怎么办？

        解法：存储上，不同国别、业务做资源隔离；运行时，不同国别、业务分开执行；部署时，采用多机房集群化部署，避免单点故障，通过数据库锁或分布式锁保证任务只被触发一次

      • 高可用

        1. 数据库行锁模式 1684742923149.png

          在触发调度之前，更新数据库中JobInstance的状态，成功抢锁的才会触发调度

        2. 分布式锁模式 1684742932777.png

          在触发调度之前，尝试抢占分布式锁，可使用Redis锁或ZooKeeper锁

    8. 调度器Scheduler

      • 分配任务，管理任务生命周期

      • 资源来源

        1. 业务系统提供机器资源
          • 优点：任务执行逻辑与业务系统共用同一份资源，利用率更高
          • 缺点：更容易发生定时任务脚本影响在线服务的事故；不能由定时任务平台控制扩缩容
        2. 定时任务平台提供机器资源
          • 优点：任务执行逻辑与业务系统提供的在线服务隔离，避免相互影响；可以支持优雅地扩缩容
          • 缺点：消耗更多机器资源；需要额外为定时任务平台申请接口调用权限，而不能直接继承业务系统的权限

      • 节点选择

        1. 随机节点执行：选择集群中一个可用的执行节点执行调度任务。适用场景——定时对账
        2. 广播执行：在集群中所有的执行节点分发调度任务并执行。适用场景——批量运维
        3. 分片执行：按照用户自定义分片逻辑进行拆分，分发到集群中不同节点并行执行，提升资源利用效率。适用场景——海量日志统计

      • 任务分片 1684742977513.png

        通过任务分片来提高任务执行的效率和资源的利用率

      • 任务编排 1684742998325.png

        使用有向无环图DAG（Directed Acyclic Graph）进行可视化任务编排

      • 故障转移 1684743014256.png

        1. 确保部分执行单元任务失败时，任务最终成功
        2. 分片任务基于一致性hash策略分发任务，当某Executor异常时，调度器会将任务分发到其他Executor

      • 高可用 1684743034737.png

        调度器可以集群部署，做到完全的无状态，靠消息队列的重试机制保障任务一定会被调度

    9. 执行器Executor 1684743080707.png

      • 获取执行任务单元，执行任务逻辑
      • 基于注册中心，可以做到执行器的弹性扩缩容

    10. 控制台Admin

      • 提供任务管理和干预的功能
      • 基本概念
        1. Job：任务元数据（用户对任务属性定义，包括任务类型、调度时机、执行行为等）
        2. JobInstance：任务运行的实例（id、触发时间、状态＆结果、过程信息）
        3. JobResult：任务实例运行的结果
        4. JobHistory：用户可以修改任务信息，任务实例对应的任务元数据可以不同，因而使用任务历史存储

    11. 业务应用

      • 电商：订单超时未付款自动取消订单、定时分发优惠券
      • 互动：支付宝集五福、抖音春节集卡红包
      • 游戏：定期更新游戏内榜单、活动结束后批量补发奖励

    12. 各种解决方案对比 1684743109089.png

avatar
文章
阅读
粉丝