2020-05-15 08:20:27 +08:00
2020-05-14 20:13:26 +08:00
2020-05-14 20:13:26 +08:00
2020-05-11 17:34:42 +08:00
2020-03-16 17:19:56 +08:00
2020-03-17 17:27:19 +08:00
2020-05-14 20:13:26 +08:00
2020-05-12 23:08:10 +08:00

简介

产品介绍

OhMyScheduler是基于Akka架构的一款分布式调度平台与分布式计算框架对标 Alibaba SchedulerX2.0),其主要功能特性如下:

  • 使用简单提供前端Web界面允许开发者可视化地完成调度任务的管理增、删、改、查、任务运行状态监控和运行日志查看等功能。
  • 定时策略完善支持CRON表达式、固定频率、固定延迟和API四种定时调度策略。
  • 执行模式丰富支持单机、广播、Map、MapReduce四种执行模式其中Map/MapReduce处理器能使开发者寥寥数行代码便获得集群分布式计算的能力。
  • 执行器支持广泛支持Spring Bean、普通Java对象、Shell、Python等处理器应用范围广比如广播执行+Shell脚本用来清理日志
  • 运维便捷支持在线日志功能执行器产生的日志可以在前端控制台页面实时显示降低debug成本极大地提高开发效率。
  • 依赖精简最小仅依赖关系型数据库MySQL/Oracle/MS SQLServer...扩展依赖为MongoDB用于存储庞大的在线日志
  • 高可用&高性能:调度服务器经过精心设计,一改其他调度框架基于数据库锁的策略,实现了无锁化调度。部署多个调度服务器可以同时实现高可用和性能的提升(支持无限的水平扩展)。
  • 故障转移与恢复:任务执行失败后,可根据配置的重试策略完成重试,只要执行器集群有足够的计算节点,任务就能顺利完成。

适用场景

  • 有定时执行需求的业务场景:如每天凌晨全量同步数据、生成业务报表等。
  • 有需要全部机器一同执行的业务场景:如日志清理。
  • 有需要分布式处理的业务场景比如需要更新一大批数据单机执行耗时非常长可以使用Map/MapReduce处理器完成任务的分发调动整个集群加速计算。

接入流程(文档不要太详细,简单强大兼得说的就是在下~)

  1. 项目部署及初始化
  2. 处理器开发
  3. 任务配置与在线查看
  4. (强大灵活的扩展——OpenAPI)

开发日志

已完成

  • 定时调度功能支持CRON表达式、固定时间间隔、固定频率和API四种方式。
  • 任务执行功能支持单机、广播、Map和MapReduce四种执行方式。
  • 执行处理器支持SpringBean、普通Java对象、Shell脚本、Python脚本的执行。
  • 在线日志:分布式日志方案。
  • 高可用与水平扩展:调度服务器可以部署任意数量的节点,不存在调度的性能瓶颈。
  • 不怎么美观但可以用的前端界面。
  • OpenAPI通过OpenAPI可以允许开发者在自己的应用上对OhMyScheduler进行二次开发比如开发自己的定时调度策略通过API的调度模式触发任务执行。

下阶段目标

  • 日志的限流 & 本地分表提升在线日志最大吞吐量
  • 工作流任务编排当前版本勉强可以用MapReduce代替不过工作流挺酷的等框架稳定后进行开发。
  • 应用级别资源管理和任务优先级没有机器资源时进入排队队列。不过我觉得SchedulerX的方案不太行SchedulerX无抢占一旦低优先级任务开始运行那么只能等他执行完成才能开始高优先级任务这明显不合理。可是考虑抢占的话又要多考虑很多东西...先放在TODO列表吧。
  • 保护性判断(这个太繁琐了且意义不大,毕竟面向开发者,大家不会乱填参数对不对~)

参考

Alibaba SchedulerX 2.0

  • Akka 框架不得不说akka-remote简化了相当大一部分的网络通讯代码。
  • 执行器架构设计这篇文章反而不太认同感觉我个人的设计更符合Yarn的“架构”。
  • MapReduce模型想法很Cool大数据处理框架都是处理器向数据移动但对于传统Java应用来说数据向处理器移动也未尝不可这样还能使框架的实现变得简单很多。
  • 广播执行运行清理日志脚本什么的也太实用了8

后记

  • 产品永久开源Apache License, Version 2.0),免费使用,且目前开发者@KFCFans有充足的时间进行项目维护和提供无偿技术支持All In 了解一下),欢迎各位试用!
  • 欢迎共同参与本项目的贡献PR和Issue都大大滴欢迎求求了
  • 觉得还不错的话可以点个Star支持一下哦 = ̄ω ̄=
  • 联系肥宅兄@KFCFans -> tengjiqi@gmail.com
Description
Enterprise job scheduling middleware with distributed computing ability.
Readme Apache-2.0 36 MiB
Languages
JavaScript 87.3%
Java 12.5%
Shell 0.2%