新一代可视化拖拽式数据流平台

167 阅读3分钟

项目官网:shaiwz.com/home 

后端代码地址:gitee.com/aizuda/data… 

项目展示地址:dataplatform.cn/login

核心优势

  • 产品支持任意并行、支持流批任务一体化。
  • 数据流支持版本控制。
  • 支持分布式、多实例、异常自动容错。
  • 完善的异常告警机制。
  • 支持数据权限配置。

基础架构

支持任意节点缩扩容,当资源使用率低的时候支持动态减少节点节约成本,当遇到大促等活动服务压力过大时增加节点数提高数据处理吞吐量。

none

页面功能预览

首页

综合看板,方便查看系统运行情况,数据一致性,数据源健康率,以及告警信息等。

none

数据流统计

用来监控数据流的运行情况,数据流的运行情况,以及数据流服务器的压力。

none

点击处理器、或者内存时展示服务器运行信息

none

同时可以在服务监控中看具体的服务器信息

none

查询模板统计

用来查看查询模板的调用情况,查询服务器运行信息

none

数据管理

数据流

支持随意构建数据流向,拖拖拽拽完成数据同步,清洗,过滤等任何操作,全程不需要写任何代码。

数据流列表

查看有哪些数据流任务

none

数据流画布

支持在一个画布里面完成数据同步,清洗,过滤、报表数据生成等任何操作,全程不需要写任何代码。

none

发布服务器资源可控,自动容错,节点支持动态扩容,服务节点越多,性能越好。支持多版本,支持回滚。

none

数据流实时运行日志

none

数据流发布记录

在这里可以查看历史版本流程、以及支持回退到历史版本。

image.png

数据源

支持若干种数据源,插件方式,便于扩展其他数据源

数据源创建

none

数据源控制台

不同数据源支持不同的控制台,例如MySQL、StarRocks、Doris、Oracle等控制台样式如下

none

Kafka控制台

nonenone

ElasticSearch控制台

none

等等其他控制台

数据对齐

通过页面简易配置即可能完成两个任意数据源、不同类型数据源数据表、索引等一致性校验,告警、并支持自动化修复!

数据对齐列表

这里方便查看有哪些对齐任务

none

数据对齐创建

配置何时触发,以及策略对齐策略:数量一致、内容一致、随机数量,对比时间范围等等配置。

none

数据对齐日志

开源快速方便查看任务的运行情况

none

数据对齐日志详情

针对某次对齐任务,不一致的数据快速查看,并提示出差异字段等。

none

查询模板

通过查询模板可以快速创建查询任务,支持多种数据源。不用后端开发再去编写查询报表、对外提供数据查询接口。

查询模板列表

支持版本控制、密钥、权限配置等

none

查询模板创建

支持动态条件、分表。

none

扩展支持限流、记录日志、缓存等配置

none

预览页面有示例文档,以及快速测试,测试没问题可以点击发布,外部服务即可调用。

none

查询模板调用日志

支持完善的日志记录,日志可跟踪。

none

查询日志详情

none

性能测试

模式硬件规格实例数量速率(单任务)
监听-流处理6c12g130058/s
批处理6c12g160268/s