0

0

分布式定时任务那些事儿|青训营笔记

絕刀狂花

絕刀狂花

发布时间:2025-07-19 09:32:50

|

1021人浏览过

|

来源于php中文网

原创

一、前言分布式定时任务那些事儿|青训营笔记

以集福开奖为例,后端如何设计最终开奖环节的技术方案?

自动化 + 定时执行 + 大规模数据处理 + 高效稳定性 == 分布式定时任务

二、概述2.1 发展历程• Windows运行批处理文件• Windows任务计划程序• Linux命令—CronJob• 应用程序编码层—单机定时任务(Timer—JavaTicker—GoScheduledExecutorService—线程池技术)• 任务调度—Quartz(单任务极致控制、没有负载均衡机制)• 分布式定时任务(平台化管理、分布式部署、支持海量数据)2.2 分布式定时任务概述定时任务是指系统自动完成特定任务,实时、延时、周期性完成任务调度的过程。

分布式定时任务是一种将分散的、可靠性低的定时任务整合到统一平台,并实现集群管理调度和分布式部署的管理方式。

2.3 分布式定时任务特点• 自动化:自动完成定时任务的调度和执行• 平台化:基于平台化的思维管理一系列的分布式定时任务• 分布式:在分布式系统环境下运行任务调度,突破单机定时任务的性能限制• 伸缩性:采用集群部署,可以按需进行扩缩容• 高可用:单点故障不影响最终任务结果,可以实现故障转移2.4 分布式定时任务执行方式• 单机任务:随机触发一台机器执行任务,适用于计算量小、并发低的任务• 广播任务:广播到所有机器上执行同一个任务,例如所有机器同时清理日志• Map任务:一个任务可以分出多个子任务,每个子任务负责部分计算。适用于计算量大,单机无法满足要求的任务• MapReduce任务:在Map的基础上,还可以对所有子任务的结果进行汇总计算,适用于计算量大且需要对子任务结果进行汇总的任务分布式定时任务那些事儿|青训营笔记2.5 业内定时任务框架分布式定时任务那些事儿|青训营笔记三、实现原理3.1 核心架构分布式定时任务那些事儿|青训营笔记分布式定时任务核心要解决触发、调度、执行三个关键问题。

• 触发器:Trigger,解析任务,生成触发事件• 调度器:Scheduler,分配任务,管理任务生命周期• 执行器:Executor,获取执行任务单元,执行任务逻辑3.2 控制台分布式定时任务那些事儿|青训营笔记• 任务:Job,任务元数据• 任务实例:JobInstance,周期任务会生成多个任务实例• 任务结果:JobResult,任务实例运行的结果• 任务历史:JobHistory,用户可以修改任务信息,任务实例对应的任务元数据可以不同,因此使用任务历史存储3.3 触发器给定一系列任务,解析它们的触发规则,在规定的时间点触发任务的调度,以下是一些触发器设计方案:

分布式定时任务那些事儿|青训营笔记不同业务之间的任务调度相互影响怎么办?负责扫描和触发的机器挂了怎么办?

Pic Copilot
Pic Copilot

AI时代的顶级电商设计师,轻松打造爆款产品图片

下载

• 存储上:不同国家、业务进行资源隔离• 运行上:不同国家、业务分开执行• 部署时:采用多机房集群化部署,避免单点故障,通过数据库锁或分布式锁保证任务只被触发一次3.4 调度器根据调度的资源来源可以分为两种方案:

• 业务系统提供资源(阿里、美团、字节)• 优点:任务执行逻辑与业务系统共用一份资源,利用率高• 缺点:更容易发生定时任务脚本影响在线业务的事故;不能由定时任务平台控制扩缩容• 定时任务平台提供机器资源(字节)• 优点:任务执行逻辑与业务系统提供的在线服务隔离,避免相互影响,可以优化扩缩容• 缺点:消耗更多机器资源;需要额外为定时任务平台申请接口调用权限,而不能直接继承业务系统的权限资源调度—节点选择:

• 随机节点执行:选择集群中的一个可用的执行节点执行调度任务。适用场景:定时对账• 广播执行:在集群中所有的执行节点分发调度任务并执行。适用场景:批量运维• 分片执行:按照用户自定义的分片逻辑进行拆分,分发到集群中不同节点并执行,提升资源利用效率。适用场景:海量日志统计分布式定时任务那些事儿|青训营笔记• 故障转移:分片任务基于一致性Hash策略分发任务,当某个执行器异常时,调度器会将任务分发到其他执行器。• 高可用:调度器可以集群部署,做到完全无状态,靠消息队列的重试机制保障任务一定会被调度。分布式定时任务那些事儿|青训营笔记3.5 执行器分布式定时任务那些事儿|青训营笔记基于注册中心,可以实现执行器的弹性扩缩容。

四、业务应用所有需要定时、延时、周期性执行任务的业务场景,都可以考虑使用分布式定时任务

• 电商:订单30分钟未支付自动关闭、定时给商家、达人发送消息、优惠券• 互动:支付宝集五福、字节春节集卡分红包• 游戏:活动结束后批量补发用户未领取的奖励、定期更新游戏内的榜单分布式定时任务那些事儿|青训营笔记五、总结分布式定时任务那些事儿|青训营笔记

相关专题

更多
java
java

Java是一个通用术语,用于表示Java软件及其组件,包括“Java运行时环境 (JRE)”、“Java虚拟机 (JVM)”以及“插件”。php中文网还为大家带了Java相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

832

2023.06.15

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

737

2023.07.05

java自学难吗
java自学难吗

Java自学并不难。Java语言相对于其他一些编程语言而言,有着较为简洁和易读的语法,本专题为大家提供java自学难吗相关的文章,大家可以免费体验。

734

2023.07.31

java配置jdk环境变量
java配置jdk环境变量

Java是一种广泛使用的高级编程语言,用于开发各种类型的应用程序。为了能够在计算机上正确运行和编译Java代码,需要正确配置Java Development Kit(JDK)环境变量。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

397

2023.08.01

java保留两位小数
java保留两位小数

Java是一种广泛应用于编程领域的高级编程语言。在Java中,保留两位小数是指在进行数值计算或输出时,限制小数部分只有两位有效数字,并将多余的位数进行四舍五入或截取。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

398

2023.08.02

java基本数据类型
java基本数据类型

java基本数据类型有:1、byte;2、short;3、int;4、long;5、float;6、double;7、char;8、boolean。本专题为大家提供java基本数据类型的相关的文章、下载、课程内容,供大家免费下载体验。

446

2023.08.02

java有什么用
java有什么用

java可以开发应用程序、移动应用、Web应用、企业级应用、嵌入式系统等方面。本专题为大家提供java有什么用的相关的文章、下载、课程内容,供大家免费下载体验。

430

2023.08.02

java在线网站
java在线网站

Java在线网站是指提供Java编程学习、实践和交流平台的网络服务。近年来,随着Java语言在软件开发领域的广泛应用,越来越多的人对Java编程感兴趣,并希望能够通过在线网站来学习和提高自己的Java编程技能。php中文网给大家带来了相关的视频、教程以及文章,欢迎大家前来学习阅读和下载。

16925

2023.08.03

Java 桌面应用开发(JavaFX 实战)
Java 桌面应用开发(JavaFX 实战)

本专题系统讲解 Java 在桌面应用开发领域的实战应用,重点围绕 JavaFX 框架,涵盖界面布局、控件使用、事件处理、FXML、样式美化(CSS)、多线程与UI响应优化,以及桌面应用的打包与发布。通过完整示例项目,帮助学习者掌握 使用 Java 构建现代化、跨平台桌面应用程序的核心能力。

36

2026.01.14

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
CSS3 教程
CSS3 教程

共18课时 | 4.5万人学习

Git 教程
Git 教程

共21课时 | 2.7万人学习

Excel 教程
Excel 教程

共162课时 | 11.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号