百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

自研分布式任务调度框架 revolver 基本设计

ccwgpt 2024-10-12 02:51 26 浏览 0 评论

前段时间写了一篇《自研分布式任务调度框架 Revolver 第一版》,这算是一个Demo版本,真正应用到项目中时,确实需要做一些调整。经过一段时间的调整、自测、与同事讨论,第一版已提测,在项目中验证,现在应该正式的介绍一下这个分布式任务调度平台 xxx(内部名字)核心之 revolver。revolver 是左轮手枪的意思,很多有定时功能的框架中都有「时间轮」的设计,比如 xxl-job、Kafka,设计巧妙,非常适用于定时或者延迟任务,revolver 也使用了时间轮。选择一个既简单又具有代表含义的名字,我想到了左轮手枪,形象相似,时间轮用来放任务,左轮用来放子弹。

01. 基本设计

基本设计

revolver 不同于 xxl-job、elasticJob 这些常规的任务调度平台,不需要独立部署,不需要后台注册,使用生产者、消费者模式,DB 作为中间媒介,自动注册自动消费。生产者、消费者可以分属于不同的服务,生产者指定执行任务的服务。

02. 为什么要做这个

做了 ToB 业务才知道,维护各种不同的版本、各种不同的环境真麻烦,常规的后台注册式任务管理,使用起来也会不方便,具备自动注册、自动消费能力的任务调度更合适,类似于 MQ 和 任务调度平台的结合。

非常适合在某个条件下,自动注册一个定时单次、有限次(无限次)的定时重复任务,这种场景 MQ 和 任务调度平台都不太合适。

03. 特点

  • 使用简单

生产者调用 producer client 即可,消费者需要启动消费者调度,使用方式类似于 Spring Kafka。

# API 注册
RevolverProducer.produceFixed(FixedTask fixedTask)

# 也提供注解注册,类似于使用 @Transcational
@FixedRegister(handler = "taskHandler", delayTime = 5L)

# 消费者启动
RevolverConsumer.start();

# 消费者需要实现 ITaskHandler 接口
@Component("taskHandler")
public class TaskHandler implements ITaskHandler {
}
  • 动态分片

提交上来的任务,会分配到任务较少机器上,均衡利用集群资源。

  • 故障转移

任务节点故障时,由注册中心通知其他可用节点,leader 从故障节点撤出任务,提交给分片任务。

  • 去中心化

leader 节点承担故障转移、分片功能,不承担调度,只要分片之后,每个节点都是独立调度自己的任务。

  • 线程安全

一个任务只会在一台机器执行,不会出现多机并发问题,也不会出现单机并发调度。

  • 性能保证

内存时间轮队列 + 阻塞通知机制,实现高效调度,在没有任务时,也不会出现空轮询。

之前netty空轮询造成 cpu 彪高

原因:若Selector的轮询结果为空,没有阻塞、通知机制,不断轮询,使得CPU使用率100%

Netty4解决:加入了阻塞机制。

如果持续的时间大于等于timeoutMillis,说明就是一次有效的轮询,重置selectCnt标志,否则,表明该阻塞方法并没有阻塞这么长时间,可能触发了jdk的空轮询bug,当空轮询的次数超过一个阀值的时候,默认是512,就开始重建selector


xxl-job 其实也存在空轮询问题,虽然一秒钟一次影响不明显,在已经有这么多优秀的调度框架的前提自研,前期必然要注意一些。

  • 线程池隔离

为减少任务之间的影响,采用执行线程池隔离,线程池数可配置,提供不同的线程池选择策略。

03. 短期规划

总体方向是 MQ模式 与 平台化管理相结合,可能会支持数据调度,自动化、平台化、多元化。

近期规划,支持平台化、报警、运行日志等等。

公众号:看起来很美(kanqilaihenmei_)

相关推荐

用Steam启动Epic游戏会更快吗?(epic怎么用steam启动)

Epic商店很香,但也有不少抱怨,其中一条是启动游戏太慢。那么,如果让Steam启动Epic游戏,会不会速度更快?众所周知,Steam可以启动非Steam游戏,方法是在客户端左下方点击“添加游戏”,然...

Docker看这一篇入门就够了(dockerl)

安装DockerLinux:$curl-fsSLhttps://get.docker.com-oget-docker.sh$sudoshget-docker.sh注意:如果安装了旧版...

AYUI 炫丽PC开发UI框架2016年6月15日对外免费开发使用 [1]

2016年6月15日,我AY对外发布AYUI(WPF4.0开发)的UI框架,开发时候,你可以无任何影响的去开发PC电脑上的软件exe程序。AYUI兼容XP操作系统,在Win7/8/8.1/10上都顺利...

别再说C#/C++套壳方案多了!Tauri这“借壳生蛋”你可能没看懂!

浏览器套壳方案,C#和C++有更多,你说的没错,从数量和历史积淀来看,C#和C++确实有不少方式来套壳浏览器,让Web内容在桌面应用里跑起来。但咱们得把这套壳二字掰扯清楚,因为这里面学问可大了!不同的...

OneCode 核心概念解析——Page(页面)

在接触到OneCode最先接触到的就是,Page页面,在低代码引擎中,页面(Page)设计的灵活性是平衡“快速开发”与“复杂需求适配”的关键。以下从架构设计、组件系统、配置能力等维度,解析确...

React是最后的前端框架吗,为什么这么说的?

油管上有一位叫Theo的博主说,React是终极前端框架,为什么这么说呢?让我们来看看其逻辑:这个标题看起来像假的,对吧?React之后明明有无数新框架诞生,凭什么说它是最后一个?我说的“最后一个”不...

面试辅导(二):2025前端面试密码:用3个底层逻辑征服技术官

面试官放下简历,手指在桌上敲了三下:"你上次解决的技术难题,现在回头看有什么不足?"眼前的候选人瞬间僵住——这是上周真实发生在蚂蚁金服终面的场景。2025年的前端战场早已不是框架熟练...

前端新星崛起!Astro框架能否终结React的霸主地位?

引言:当"背着背包的全能选手"遇上"轻装上阵的短跑冠军"如果你是一名前端开发者,2024年的框架之争绝对让你眼花缭乱——一边是React这位"背着全家桶的全能选...

基于函数计算的 BFF 架构(基于函数计算的 bff 架构是什么)

什么是BFFBFF全称是BackendsForFrontends(服务于前端的后端),起源于2015年SamNewman一篇博客文章《Pattern:BackendsFor...

谷歌 Prompt Engineering 白皮书:2025年 AI 提示词工程的 10 个技巧

在AI技术飞速发展的当下,如何更高效地与大语言模型(LLM)沟通,以获取更准确、更有价值的输出,成为了一个备受关注的问题。谷歌最新发布的《PromptEngineering》白皮书,为这一问题提供了...

光的艺术:灯具创意设计(灯光艺术作品展示)

本文转自|艺术与设计微信号|artdesign_org_cn“光”是文明的起源,是思维的开端,同样也是人类睁眼的开始。每个人在出生一刻,便接受了光的照耀和洗礼。远古时候,人们将光奉为神明,用火来...

MoE模型已成新风口,AI基础设施竞速升级

机器之心报道编辑:Panda因为基准测试成绩与实际表现相差较大,近期开源的Llama4系列模型正陷入争议的漩涡之中,但有一点却毫无疑问:MoE(混合专家)定然是未来AI大模型的主流范式之一。...

Meta Spatial SDK重大改进:重塑Horizon OS应用开发格局

由文心大模型生成的文章摘要Meta持续深耕SpatialSDK技术生态,提供开自去年9月正式推出以来,Meta持续深耕其SpatialSDK技术生态,通过一系列重大迭代与功能增强,不断革新H...

"上云"到底是个啥?用"租房"给你讲明白IaaS/PaaS/SaaS的区别

半夜三点被机房报警电话惊醒,顶着黑眼圈排查服务器故障——这是十年前互联网公司运维的日常。而现在,程序员小王正敷着面膜刷剧,因为公司的系统全"搬"到了云上。"部署到云上"...

php宝塔搭建部署thinkphp机械设备响应式企业网站php源码

大家好啊,欢迎来到web测评。本期给大家带来一套php开发的机械设备响应式企业网站php源码,上次是谁要的系统项目啊,帮你找到了,还说不会搭建,让我帮忙录制一期教程,趁着今天有空,简单的录制测试了一下...

取消回复欢迎 发表评论: