百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

详解:基于Quartz的调度系统 - Marble

ccwgpt 2024-09-18 12:26 34 浏览 0 评论

更多深度文章,请关注云计算频道:https://yq.aliyun.com/cloud

摘要: 实际项目中需要用到JOB的场景非常多,通常需要JOB的业务都需要如下基本功能:

1)集群环境单实例调度;

2)JOB可视化启停;

3)JOB频率可视化配置;

单应用使用JOB开发适配的需求的调度功能过滤繁琐,开销太大,考虑提供统一的调度系统对外提供JOB的调度服务。

Marble简介

Marble是一款基于Quartz的计划任务调度系统,提供基本的任务定时调度功能。Marble包含两部分:

  • 1)Marble OFFLINE: 一套可视化的JOB配置系统。包含JOB的启停、频率配置、调度日志查看等功能;

  • 2)Marble AGENT:以Jar包形式整合进接入Marble的第三方应用,透明化Job的调度过程;详情见<< Marble使用>>章节

OFFLINE>>

为了可视化管理JOB,提供一个前端基于Bootstrap, 后端采用SpringMVC + MyBatis + MySql结构的控制台。提供基本的JOB的增删改查,启动/暂停等操作。

Marble部署图如下:

目前版本Marble提供的功能如下:

  • 基本JOB管理(增删改查、暂停/启动);

  • JOB执行参数传递的支持;

  • 同步JOB和异步JOB支持;

  • CRON表达式生成控件;

  • 多种Misfire策略配置;

  • 集群环境部署(不重复执行);

  • 集群的软负载均衡;

  • Spring整合;

Marble使用

接入Marble步骤

服务端=>

1. 引入相关Jar包(Netty等)

1. 定义Job的具体实现类(Spring中的Bean)

1. Spring中配置Job的实现类

OFFLINE端=>

1. 配置对应应用和Job信息(配合权限管理)

接入Marble - 服务端

  1. 引入相关Jar包(以Maven为例)

    注:依赖marble-agent包(自己通过源代码的marble-server模块生成)和Thrift包

<!-- Marble相关 --> <dependency> <groupId>com.github.jxdong</groupId> <artifactId>marble-agent</artifactId> <version>1.0.1</version></dependency><!-- Netty相关 --><dependency> <groupId>io.netty</groupId> <artifactId>netty-all</artifactId> <version>4.0.4.Final</version></dependency>

2.定义Job具体实现类

定义java类继承父类MarbleJob,覆盖方法execute (当Job被调用时会执行execute下的内容)。

//异步JOB@Componentpublic class TestMarbleJob1 extends MarbleJob { private Logger logger = LoggerFactory.getLogger(TestMarbleJob1.class); @Override public void execute(String param) { logger.info(" 异步 JOB1 执行正常: {}", param); }}//同步JOB@Componentpublic class TestSyncMarbleJob1 extends MarbleJob { private Logger logger = LoggerFactory.getLogger(TestSyncMarbleJob1.class); @Override public Result executeSync(String param) { logger.info(" 同步 JOB1(3S) 执行正常: {}", param); try { Thread.sleep(3000); } catch (InterruptedException e) { e.printStackTrace(); } return Result.SUCCESS(); }}
  1. Spring中添加Job配置

marble框架中已经自定义了Spring标签方便直接配置。

示例配置如下:

<marble:scheduler id="Scheduler001" port="9091" appCode="8890"> <marble:job name="Job1" description="jobDescription1" ref="testMarbleJob1"/> <marble:job name="Job2" description="jobDescription2" ref="testSyncMarbleJob1"/></marble:scheduler>

配置解释:

配置了一个名称为Scheduler001的计划任务(job组),在9091端口上暴露服务。

Scheduler001下包含了两个Job:job1和job2.

Job1的实现类是 Spring bean - testMarbleJob1

Job2的实现类是Spring Bean – testSyncMarbleJob1

Marble标签详解:

<marble:scheduler/>: 计划任务配置。一个应用可以配置多个计划任务,每个计划任务暴露在一个IP的端口下,一个计划任务中可以包含多个Job。

属性是否必填描述
id必填ID属性,英文+数字的组合来定义该计划任务的唯一标识。
host非必填所在服务器的IP地址。指定后Marble会尝试将服务暴露在该IP下。不是必填项。由于集群,建议该字段不填,Marble默认会自动获取;
port必填计划任务暴露的端口号。指明该计划任务暴露在机器的哪个端口下,Marble随Spring启动后会尝试打开本机的该端口并暴露服务。
appCode(必填)所在应用的APPID。为了在同一台机器上区别不同的应用,以免调用时混淆。

<marble:job/>: 计划任务下的job的配置。指明具体任务的别名以及实现类。

属性是否必填描述
name必填给当前Job起的别名,在所属的scheduler下必须唯一。
description非必填ob的描述信息,仅用来便于开发者自己识别,非必填。
ref必填Job的具体实现类,必须指向存在的一个Spring Bean。值为bean的name。且该bean必须继承自MarbleJob并覆盖execute方法。Job被调用时会执行execute方法,因此执行逻辑要写在execute中。

接入Marble - OFFLINE端

1、添加相关应用

  • 应用Code:唯一的APPID

  • 应用name:应用name必须与server端中marble:scheduler/标签的appCode属性值一致

  • 应用描述

  • 应用拥有者:输入员工号

  • Marble版本号:2.0.0开始支持Netty

2、应用下添加运行的服务器(可添加多台)

  • 服务器组:默认DEFAULT

  • 服务器name:组内唯一

  • 服务器描述

3、应用下添加Scheduler

  • Scheduler名称:唯一Scheduler

  • Scheduler 描述

  • 服务器相关信息(点击选中输入打开的端口号)

4、Scheduler下添加多个Job

  • Job名称:唯一job

  • job 描述

  • Cron表达式: 通过控件选择(具体含义,请 自行百度Cron表达式)

  • Misfire策略选择(目前提供三种方式)

  • Job执行参数:String类型

Marble原理介绍

Marble的核心其实有两个部分:

  • 1)Job的调度;

  • 2)与服务端的通讯;

Marble的job调度使用了Quartz – 一款流行的开源作业调度框架。

与Job服务端的通讯使用了Apache Thrift / Netty(2.0.0开始) - 一款开源的高效RPC框架。

Marble在两个开源框架基础上做了必要的封装和针对公司使用的定制化修改。

Marble实现原理 - 一次JOB调度过程

调度服务与job服务交互:

1. 服务端(Job执行服务器)随spring启动打开Socket端口;

2. OFFLINE配置执行频率后,到达job执行时间,通过SOCKET与job服务器建立连接;

3. 调用job服务器的execute方法(不等待返回),关闭本次socket连接;

Marble实现原理 - 集群支持

TODO

Marble实现原理 - Misfire策略

存在的问题 + 后续计划

  • 由于集群依赖于DB,如果大量JOB管理会造成DB的资源竞争加剧,从而引发JOB的misfire;

  • 更多功能等待添加,比如:监控,报警,分析等;

  • JOB的执行是单机不能发挥集群的优势;

  • 准备接入zookeeper,摒弃手动配置服务器,采用自发现,自维护;

  • ...

TODO

github第一版代码: https://github.com/jeff-dong/marble

关于作者

Java菜鸟。联系方式djx_19881022@163.com or dongjianxing@aliyun.com

相关推荐

十分钟让你学会LNMP架构负载均衡(impala负载均衡)

业务架构、应用架构、数据架构和技术架构一、几个基本概念1、pv值pv值(pageviews):页面的浏览量概念:一个网站的所有页面,在一天内,被浏览的总次数。(大型网站通常是上千万的级别)2、u...

AGV仓储机器人调度系统架构(agv物流机器人)

系统架构层次划分采用分层模块化设计,分为以下五层:1.1用户接口层功能:提供人机交互界面(Web/桌面端),支持任务下发、实时监控、数据可视化和报警管理。模块:任务管理面板:接收订单(如拣货、...

远程热部署在美团的落地实践(远程热点是什么意思)

Sonic是美团内部研发设计的一款用于热部署的IDEA插件,本文其实现原理及落地的一些技术细节。在阅读本文之前,建议大家先熟悉一下Spring源码、SpringMVC源码、SpringBoot...

springboot搭建xxl-job(分布式任务调度系统)

一、部署xxl-job服务端下载xxl-job源码:https://gitee.com/xuxueli0323/xxl-job二、导入项目、创建xxl_job数据库、修改配置文件为自己的数据库三、启动...

大模型:使用vLLM和Ray分布式部署推理应用

一、vLLM:面向大模型的高效推理框架1.核心特点专为推理优化:专注于大模型(如GPT-3、LLaMA)的高吞吐量、低延迟推理。关键技术:PagedAttention:类似操作系统内存分页管理,将K...

国产开源之光【分布式工作流调度系统】:DolphinScheduler

DolphinScheduler是一个开源的分布式工作流调度系统,旨在帮助用户以可靠、高效和可扩展的方式管理和调度大规模的数据处理工作流。它支持以图形化方式定义和管理工作流,提供了丰富的调度功能和监控...

简单可靠高效的分布式任务队列系统

#记录我的2024#大家好,又见面了,我是GitHub精选君!背景介绍在系统访问量逐渐增大,高并发、分布式系统成为了企业技术架构升级的必由之路。在这样的背景下,异步任务队列扮演着至关重要的角色,...

虚拟服务器之间如何分布式运行?(虚拟服务器部署)

  在云计算和虚拟化技术快速发展的今天,传统“单机单任务”的服务器架构早已难以满足现代业务对高并发、高可用、弹性伸缩和容错容灾的严苛要求。分布式系统应运而生,并成为支撑各类互联网平台、企业信息系统和A...

一文掌握 XXL-Job 的 6 大核心组件

XXL-Job是一个分布式任务调度平台,其核心组件主要包括以下部分,各组件相互协作实现高效的任务调度与管理:1.调度注册中心(RegistryCenter)作用:负责管理调度器(Schedule...

京东大佬问我,SpringBoot中如何做延迟队列?单机与分布式如何做?

京东大佬问我,SpringBoot中如何做延迟队列?单机如何做?分布式如何做呢?并给出案例与代码分析。嗯,用户问的是在SpringBoot中如何实现延迟队列,单机和分布式环境下分别怎么做。这个问题其实...

企业级项目组件选型(一)分布式任务调度平台

官网地址:https://www.xuxueli.com/xxl-job/能力介绍架构图安全性为提升系统安全性,调度中心和执行器进行安全性校验,双方AccessToken匹配才允许通讯;调度中心和执...

python多进程的分布式任务调度应用场景及示例

多进程的分布式任务调度可以应用于以下场景:分布式爬虫:importmultiprocessingimportrequestsdefcrawl(url):response=re...

SpringBoot整合ElasticJob实现分布式任务调度

介绍ElasticJob是面向互联网生态和海量任务的分布式调度解决方案,由两个相互独立的子项目ElasticJob-Lite和ElasticJob-Cloud组成。它通过弹性调度、资源管控、...

分布式可视化 DAG 任务调度系统 Taier 的整体流程分析

Taier作为袋鼠云的开源项目之一,是一个分布式可视化的DAG任务调度系统。旨在降低ETL开发成本,提高大数据平台稳定性,让大数据开发人员可以在Taier直接进行业务逻辑的开发,而不用关...

SpringBoot任务调度:@Scheduled与TaskExecutor全面解析

一、任务调度基础概念1.1什么是任务调度任务调度是指按照预定的时间计划或特定条件自动执行任务的过程。在现代应用开发中,任务调度扮演着至关重要的角色,它使得开发者能够自动化处理周期性任务、定时任务和异...

取消回复欢迎 发表评论: