分布式任务调度最全详解(图文全面总结)
ccwgpt 2024-09-29 09:54 35 浏览 0 评论
分布式任务调度是非常核心的分布式系统,下面我就全面来详解分布式任务调度,以及分布式任务调度框架@mikechen
本篇已收于mikechen原创超30万字《阿里架构师进阶专题合集》里面。
分布式任务调度
分布式任务调度是指在分布式计算环境下,对任务进行合理地分配、调度和执行的过程,这就是分布式任务调度。
分布式任务调度功能
通常情况下,分布式任务调度框架负责以下几个方面的工作:
- 任务管理:负责任务的注册、监控和状态管理,包括任务的提交、取消和重试等操作。
- 资源调度:根据系统资源的实时情况,决定任务应该在哪个节点上执行,以确保资源的最优利用。
- 容错处理:处理节点故障、或任务执行失败的情况,保证任务能够被、及时重新调度和执行。
- 高可用性:确保任务调度系统本身的高可用性,防止单点故障对整个系统造成影响。
分布式任务调度实现
通常在分布式任务调度系统中,会涉及到以下三个重要的组件:
Scheduler 负责任务的合理调度,Trigger 负责根据条件触发任务的执行,而 Job 则是具体的执行单元,执行任务的实际逻辑。
1.Scheduler(调度器)
调度器在分布式任务调度系统中扮演着核心的角色,它通过合理的资源分配和调度策略,确保任务能够按时、高效地完成。
Scheduler(调度器)根据任务的优先级、资源可用性等因素,决定任务应该在哪个节点上执行,以及何时执行。
调度器通常实现了多种调度策略,如先来先服务(FCFS)、最短作业优先(SJF)、最短剩余时间优先(SRTF)、优先级调度等。
2.Trigger(触发器)
在分布式任务调度系统中,触发器(Trigger)是一个关键的组件,负责根据预定义的条件触发任务的执行。
它定义了任务执行的触发条件,可以基于时间、事件、数据等因素来触发任务的执行。
触发器可以根据预定的时间表,例如:每天、每周、每月的特定时间点,触发任务的执行。
3.Job(任务)
在分布式任务调度系统中,Job(任务)是需要被执行的工作单元,它包含了需要执行的代码或指令,以及执行该代码所需的输入数据和参数。
Job(任务)负责封装和定义具体的业务逻辑,并通过任务调度系统实现自动化调度和执行。
分布式任务调度框架
1.quartz
Quartz 是一个开源的任务调度框架,最初是为 Java 应用程序开发的,它提供了灵活的调度功能。
如下图所示:
Quartz 允许用户定义各种类型的任务调度,包括基于时间的触发、Cron 表达式触发、间隔触发等。
Quartz 提供了集群支持,可以通过配置多个 Quartz 实例组成一个调度集群,实现任务的高可用性和负载均衡。
除此之外,Quartz 可以与 Spring 框架无缝集成,用户可以通过 Spring 的配置方式来定义和管理 Quartz 调度器和任务。
2.elastic-job
Elastic-Job 是一个分布式任务调度框架,由当当网开发并开源,它是基于分布式调度原理和大数据分析引擎设计的。
3.xxl-job
XXL-Job 是一个分布式任务调度平台,由大众点评开发并开源,它提供了任务调度、任务执行、任务管理等功能。
XXL-Job 基于分布式架构设计,支持任务的分布式执行,它通过调度中心和执行器两个核心组件实现任务的调度和执行。
并且,XXL-Job 还提供了丰富的任务监控和管理功能,用户可以通过管理界面实时监控任务的执行状态、执行日志和执行结果等信息。
以上就是分布式任务调度介绍,更多分布式请查看:史上最强分布式系统详解(非常全面)。
本篇已收于mikechen原创超30万字《阿里架构师进阶专题合集》里面。
相关推荐
- 如何高效实现API接口的自动化测试?
-
实现API接口的自动化测试是一个多步骤的过程,涉及需求分析、测试用例设计、环境搭建、脚本编写、执行测试、结果分析和持续集成等多个环节。选择合适的工具和框架也是成功的关键。嘿,咱来聊聊实现API接口自动...
- 总结100+前端优质库,让你成为前端百事通
-
1年多时间,陆陆续续整理了一些常用且实用的开源项目,方便大家更高效地学习和工作.js相关库js常用工具类「lodash」一个一致性、模块化、高性能的JavaScript实用工具库。「xij...
- 混合开发到底怎么个混法?(混合开发rn)
-
引言最近几年混合开发越来越火,从PhoneGap到Cordova到Ionic,再到ReactNative,到Flutter。同时在搜索引擎中诸如IonicVSReactNativeRN和Weex+...
- 无所不能,将 Vue 渲染到嵌入式液晶屏
-
该文章转载自公众号@前端时刻,https://mp.weixin.qq.com/s/WDHW36zhfNFVFVv4jO2vrA前言之前看了雪碧大佬的将React渲染到嵌入式液晶屏觉得很有意思,R...
- 【直接收藏】前端 VUE 高阶面试题(一)
-
说说vue动态权限绑定渲染列表(权限列表渲染)首先请求服务器,获取当前用户的权限数据,比如请求this.$http.get("rights/list");获取到权限数据之后,在列表中...
- Vue采用虚拟DOM的目的是什么?(vue2 虚拟dom)
-
虚拟DOM更新其实效率并不像大家想象中的那么高,而且React官方也从来没说过虚拟DOM效率有多高,相反React虚拟DOM的实现也不是所有虚拟DOM产品中最好的。但是通过虚拟D...
- 什么是 JavaScript?(什么是党的旗帜)
-
本文首发自「慕课网」,想了解更多IT干货内容,程序员圈内热闻,欢迎关注!作者|慕课网精英讲师然冬JavaScript(JS)是一种具有函数优先的轻量级,解释型或即时编译型的编程语言。(MDN...
- Weex在内涵发现页中的工程实践(weex唯客交易所官网)
-
React-Native和Weex是目前最为火热的两个客户端跨平台解决方案。从去年2016年9月份开始,IES在抖音产品中应用了ReactNative,中途遇到了很多的问题,尤其是长列表的性能问题一...
- 新恒汇:公司主要业务包括智能卡业务、蚀刻引线框架业务以及物联网eSIM芯片封测业务
-
证券日报网讯新恒汇7月3日在互动平台回答投资者提问时表示,公司主要业务包括智能卡业务、蚀刻引线框架业务以及物联网eSIM芯片封测业务。具体请关注公司公告和公开披露信息。(编辑王雪儿)...
- “移”科普——什么是物联网?(移动设备物联网物联网应用实例)
-
物联网(InternetofThings,简称IoT)是指通过互联网将物理世界与数字世界相连接,实现物与物之间的智能互联的网络。它是一种新型的信息通信技术,通过传感器、嵌入式系统、网络技术等手段,...
- 如何自己搭建一个物联网平台?(自建物联网云平台)
-
自己搭建一个物联网(IoT)平台需要涉及多个关键步骤,包括硬件设备的选择、软件开发、网络通信、安全性设计以及数据管理。以下是搭建物联网平台的基本流程:1.确定物联网平台架构一个完整的物联网平台通常包...
- 物联网数据接入篇-应用层 Modbus(5)
-
前四篇文章讲述的是TCP/IP模型中的网络接口层、网络层、传输层、应用层一,这里到了第四层应用层二。由于协议比较多,就分开篇来介绍。这篇讲Modbus协议,后面再讲MQTT协议、CoAP协议、...
- 乐鑫ESP32-C5全面量产:行业首款双频Wi-Fi 6的RISC-V SoC
-
IT之家5月2日消息,乐鑫信息科技4月30日宣布,ESP32-C5现已全面进入量产。ESP32-C5宣称是行业首款2.4&5GHz双频Wi-Fi6的RISC-...
- Vue Shop Admin:强大而易用的后台管理系统模板
-
VueShopAdmin是一个基于Vue.js框架的后台管理系统模板。它具有简洁、易用和美观的特点,非常适合开发人员用于快速构建各种类型的管理系统。这个模板使用了最新的技术,如Vue3、V...
- 基于Prometheus的自动化巡检(prometheus自动发现详解)
-
!!大家好,我是乔克,一个爱折腾的运维工程,一个睡觉都被自己丑醒的云原生爱好者。作者:乔克公众号:运维开发故事道路千万条,安全第一条。操作不规范,运维两行泪。前言目前,大部分公司都采用Promet...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- 框架图 (58)
- flask框架 (53)
- quartz框架 (51)
- abp框架 (47)
- jpa框架 (47)
- springmvc框架 (49)
- 分布式事务框架 (65)
- scrapy框架 (56)
- shiro框架 (61)
- 定时任务框架 (56)
- java日志框架 (61)
- JAVA集合框架 (47)
- mfc框架 (52)
- abb框架断路器 (48)
- ui自动化框架 (47)
- beego框架 (52)
- java框架spring (58)
- grpc框架 (55)
- ppt框架 (48)
- 内联框架 (52)
- cad怎么画框架 (58)
- ps怎么画框架 (47)
- ssm框架实现登录注册 (49)
- oracle字符串长度 (48)
- oracle提交事务 (47)