百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

分布式任务调度组件 uncode-schedule

ccwgpt 2024-10-05 14:11 27 浏览 0 评论

uncode-schedule

基于zookeeper的分布式任务调度组件,非常小巧,使用简单,只需要引入jar包,不需要单独部署服务端。确保所有任务在集群中不重复,不遗漏的执行。支持动态添加和删除任务。

功能概述

  1. 基于zookeeper+spring task/quartz/uncode task的分布任务调度系统。
  2. 确保每个任务在集群中不同节点上不重复的执行。
  3. 单个任务节点故障时自动转移到其他任务节点继续执行。
  4. 任务节点启动时必须保证zookeeper可用,任务节点运行期zookeeper集群不可用时任务节点保持可用前状态运行,zookeeper集群恢复正常运期。
  5. 支持动态添加、修改和删除任务,支持任务暂停和重新启动。
  6. 添加ip黑名单,过滤不需要执行任务的节点。
  7. 后台管理和任务执行监控。
  8. 支持spring-boot,支持单个任务运行多个实例(使用扩展后缀)。

说明:

  • 单节点故障时需要业务保障数据完整性或幂等性

模块架构


Uncode-Schedule

编写Spring bean

 @Component	
 public class SimpleTask {
	private static int i = 0;
	
	public void print() {
		System.out.println("===========start!=========");
		System.out.println("I:"+i);i++;
		System.out.println("=========== end !=========");
	}
}

基于Spring Boot的配置

1 application.properties

uncode.schedule.zkConnect=127.0.0.1:2181
uncode.schedule.rootPath=/uncode/schedule
uncode.schedule.zkSessionTimeout=60000
uncode.schedule.zkUsername=ScheduleAdmin
uncode.schedule.zkPassword=password
uncode.schedule.ipBlackList[0]=127.0.0.2 #可选
uncode.schedule.ipBlackList[1]=127.0.0.3 #可选
uncode.schedule.quartzBean[0]=simpleTask #可选
uncode.schedule.quartzMethod[0]=print1 #可选
uncode.schedule.quartzCronExpression[0]=0/3 * * * * ? #可选
uncode.schedule.quartzBean[1]=simpleTask2 #可选
uncode.schedule.quartzMethod[1]=print12 #可选
uncode.schedule.quartzCronExpression[1]=0/5 * * * * ? #可选

2 启动类

@SpringBootApplication
@ComponentScan({"cn.uncode.schedule"})
@EnableScheduling
@ServletComponentScan
public class UncodeScheduleApplication {
	public static void main(String[] agrs){
		SpringApplication.run(UncodeScheduleApplication.class,agrs);
	}
}

xml配置

<!-- 分布式任务管理器 -->
<bean id="zkScheduleManager" class="cn.uncode.schedule.ZKScheduleManager"
	init-method="init">
	<property name="zkConfig">
		 <map>
			 <entry key="zkConnectString" value="127.0.0.1:2181" />
			 <entry key="rootPath" value="/uncode/schedule" />
			 <entry key="zkSessionTimeout" value="60000" />
			 <entry key="userName" value="ScheduleAdmin" />
			 <entry key="password" value="password" />
			 <entry key="isCheckParentPath" value="true" />
			 <entry key="ipBlacklist" value="127.0.0.2,127.0.0.3" />
		 </map>
	</property>
</bean>
 <!-- Spring定时器注解开关-->
 <task:scheduled-tasks scheduler="zkScheduleManager" />

使用API或后台添加任务

1 动态添加任务

ConsoleManager.addScheduleTask(TaskDefine taskDefine);

2 动态删除任务

ConsoleManager.delScheduleTask(TaskDefine taskDefine);

3 动态更新任务

ConsoleManager.updateScheduleTask(TaskDefine taskDefine);

4 查询任务列表

ConsoleManager.queryScheduleTask();


基于Spring Task的XML配置

XML方式

1 Spring bean

public class SimpleTask {
	private static int i = 0;
	
	public void print() {
		System.out.println("===========start!=========");
		System.out.println("I:"+i);i++;
		System.out.println("=========== end !=========");
	}
}

2 xml配置

<!-- 分布式任务管理器 -->
<bean id="zkScheduleManager" class="cn.uncode.schedule.ZKScheduleManager"
	init-method="init">
	<property name="zkConfig">
		 <map>
			 <entry key="zkConnectString" value="127.0.0.1:2181" />
			 <entry key="rootPath" value="/uncode/schedule" />
			 <entry key="zkSessionTimeout" value="60000" />
			 <entry key="userName" value="ScheduleAdmin" />
			 <entry key="password" value="password" />
			 <entry key="isCheckParentPath" value="true" />
			 <entry key="ipBlacklist" value="127.0.0.2,127.0.0.3" />
		 </map>
	</property>
</bean>
<!-- Spring bean配置 -->
<bean id="taskObj" class="cn.uncode.schedule.SimpleTask"/>
<!-- Spring task配置 -->
<task:scheduled-tasks scheduler="zkScheduleManager">
	<task:scheduled ref="taskObj" method="print" fixed-rate="5000"/>
</task:scheduled-tasks>

Annotation方式

1 Spring bean

@Component
public class SimpleTask {
	private static int i = 0;
	
	@Scheduled(fixedDelay = 1000) 
	public void print() {
		System.out.println("===========start!=========");
		System.out.println("I:"+i);i++;
		System.out.println("=========== end !=========");
	}
	
}

2 xml配置

<!-- 配置注解扫描 -->
 <context:annotation-config />
<!-- 自动扫描的包名 -->
 <context:component-scan base-package="cn.uncode.schedule" />
<!-- 分布式任务管理器 -->
<bean id="zkScheduleManager" class="cn.uncode.schedule.ZKScheduleManager"
	init-method="init">
	<property name="zkConfig">
		 <map>
			 <entry key="zkConnectString" value="127.0.0.1:2181" />
			 <entry key="rootPath" value="/uncode/schedule" />
			 <entry key="zkSessionTimeout" value="60000" />
			 <entry key="userName" value="ScheduleAdmin" />
			 <entry key="password" value="password" />
			 <entry key="isCheckParentPath" value="true" />
			 <entry key="ipBlacklist" value="127.0.0.2,127.0.0.3" />
		 </map>
	</property>
</bean>
<!-- Spring定时器注解开关-->
<task:annotation-driven scheduler="zkScheduleManager" />

基于Quartz的XML配置

注意:spring的MethodInvokingJobDetailFactoryBean改成cn.uncode.schedule.quartz.MethodInvokingJobDetailFactoryBean
<bean id="zkScheduleManager" class="cn.uncode.schedule.ZKScheduleManager"
		init-method="init">
	<property name="zkConfig">
		 <map>
			 <entry key="zkConnectString" value="183.131.76.147:2181" />
			 <entry key="rootPath" value="/uncode/schedule" />
			 <entry key="zkSessionTimeout" value="60000" />
			 <entry key="userName" value="ScheduleAdmin" />
			 <entry key="password" value="password" />
			 <entry key="autoRegisterTask" value="true" />
			 <entry key="ipBlacklist" value="127.0.0.2,127.0.0.3" />
		 </map>
	</property>
</bean>	
<bean id="taskObj" class="cn.uncode.schedule.SimpleTask"/>
<!-- 定义调用对象和调用对象的方法 -->
<bean id="jobtask" class="cn.uncode.schedule.quartz.MethodInvokingJobDetailFactoryBean">
	<!-- 调用的类 -->
	<property name="targetObject" ref="taskObj" />
	<!-- 调用类中的方法 -->
	<property name="targetMethod" value="print" />
</bean>
<!-- 定义触发时间 -->
<bean id="doTime" class="org.springframework.scheduling.quartz.CronTriggerFactoryBean">
	<property name="jobDetail">
		<ref bean="jobtask"/>
	</property>
	<!-- cron表达式 -->
	<property name="cronExpression">
		<value>0/3 * * * * ?</value>
	</property>
</bean>
<!-- 总管理类 如果将lazy-init='false'那么容器启动就会执行调度程序 -->
<bean id="startQuertz" lazy-init="false" autowire="no" class="org.springframework.scheduling.quartz.SchedulerFactoryBean">
	<property name="triggers">
		<list>
			<ref bean="doTime"/>
		</list>
	</property>
</bean>

uncode-schedule示例

1 以main方法运行,类路径:cn.uncode.schedule.UncodeScheduleApplication

2 在文件目录下执行:mvn spring-boot:run

uncode-schedule管理后台

访问URL:项目名称/uncode/schedule,如果servlet3.x以下,请手动配置web.xml文件

<servlet>
 <servlet-name>UncodeSchedule</servlet-name>
 <servlet-class>cn.uncode.schedule.web.ManagerServlet</servlet-class>
</servlet>
<servlet-mapping>
 <servlet-name>UncodeSchedule</servlet-name>
 <url-pattern>/uncode/schedule</url-pattern>
</servlet-mapping>

相关推荐

十分钟让你学会LNMP架构负载均衡(impala负载均衡)

业务架构、应用架构、数据架构和技术架构一、几个基本概念1、pv值pv值(pageviews):页面的浏览量概念:一个网站的所有页面,在一天内,被浏览的总次数。(大型网站通常是上千万的级别)2、u...

AGV仓储机器人调度系统架构(agv物流机器人)

系统架构层次划分采用分层模块化设计,分为以下五层:1.1用户接口层功能:提供人机交互界面(Web/桌面端),支持任务下发、实时监控、数据可视化和报警管理。模块:任务管理面板:接收订单(如拣货、...

远程热部署在美团的落地实践(远程热点是什么意思)

Sonic是美团内部研发设计的一款用于热部署的IDEA插件,本文其实现原理及落地的一些技术细节。在阅读本文之前,建议大家先熟悉一下Spring源码、SpringMVC源码、SpringBoot...

springboot搭建xxl-job(分布式任务调度系统)

一、部署xxl-job服务端下载xxl-job源码:https://gitee.com/xuxueli0323/xxl-job二、导入项目、创建xxl_job数据库、修改配置文件为自己的数据库三、启动...

大模型:使用vLLM和Ray分布式部署推理应用

一、vLLM:面向大模型的高效推理框架1.核心特点专为推理优化:专注于大模型(如GPT-3、LLaMA)的高吞吐量、低延迟推理。关键技术:PagedAttention:类似操作系统内存分页管理,将K...

国产开源之光【分布式工作流调度系统】:DolphinScheduler

DolphinScheduler是一个开源的分布式工作流调度系统,旨在帮助用户以可靠、高效和可扩展的方式管理和调度大规模的数据处理工作流。它支持以图形化方式定义和管理工作流,提供了丰富的调度功能和监控...

简单可靠高效的分布式任务队列系统

#记录我的2024#大家好,又见面了,我是GitHub精选君!背景介绍在系统访问量逐渐增大,高并发、分布式系统成为了企业技术架构升级的必由之路。在这样的背景下,异步任务队列扮演着至关重要的角色,...

虚拟服务器之间如何分布式运行?(虚拟服务器部署)

  在云计算和虚拟化技术快速发展的今天,传统“单机单任务”的服务器架构早已难以满足现代业务对高并发、高可用、弹性伸缩和容错容灾的严苛要求。分布式系统应运而生,并成为支撑各类互联网平台、企业信息系统和A...

一文掌握 XXL-Job 的 6 大核心组件

XXL-Job是一个分布式任务调度平台,其核心组件主要包括以下部分,各组件相互协作实现高效的任务调度与管理:1.调度注册中心(RegistryCenter)作用:负责管理调度器(Schedule...

京东大佬问我,SpringBoot中如何做延迟队列?单机与分布式如何做?

京东大佬问我,SpringBoot中如何做延迟队列?单机如何做?分布式如何做呢?并给出案例与代码分析。嗯,用户问的是在SpringBoot中如何实现延迟队列,单机和分布式环境下分别怎么做。这个问题其实...

企业级项目组件选型(一)分布式任务调度平台

官网地址:https://www.xuxueli.com/xxl-job/能力介绍架构图安全性为提升系统安全性,调度中心和执行器进行安全性校验,双方AccessToken匹配才允许通讯;调度中心和执...

python多进程的分布式任务调度应用场景及示例

多进程的分布式任务调度可以应用于以下场景:分布式爬虫:importmultiprocessingimportrequestsdefcrawl(url):response=re...

SpringBoot整合ElasticJob实现分布式任务调度

介绍ElasticJob是面向互联网生态和海量任务的分布式调度解决方案,由两个相互独立的子项目ElasticJob-Lite和ElasticJob-Cloud组成。它通过弹性调度、资源管控、...

分布式可视化 DAG 任务调度系统 Taier 的整体流程分析

Taier作为袋鼠云的开源项目之一,是一个分布式可视化的DAG任务调度系统。旨在降低ETL开发成本,提高大数据平台稳定性,让大数据开发人员可以在Taier直接进行业务逻辑的开发,而不用关...

SpringBoot任务调度:@Scheduled与TaskExecutor全面解析

一、任务调度基础概念1.1什么是任务调度任务调度是指按照预定的时间计划或特定条件自动执行任务的过程。在现代应用开发中,任务调度扮演着至关重要的角色,它使得开发者能够自动化处理周期性任务、定时任务和异...

取消回复欢迎 发表评论: