项目官网:shaiwz.com/home
后端代码地址:gitee.com/aizuda/data…
项目展示地址:dataplatform.cn/login
核心优势
- 产品支持任意并行、支持流批任务一体化。
- 数据流支持版本控制。
- 支持分布式、多实例、异常自动容错。
- 完善的异常告警机制。
- 支持数据权限配置。
基础架构
支持任意节点缩扩容,当资源使用率低的时候支持动态减少节点节约成本,当遇到大促等活动服务压力过大时增加节点数提高数据处理吞吐量。
页面功能预览
首页
综合看板,方便查看系统运行情况,数据一致性,数据源健康率,以及告警信息等。
数据流统计
用来监控数据流的运行情况,数据流的运行情况,以及数据流服务器的压力。
点击处理器、或者内存时展示服务器运行信息
同时可以在服务监控中看具体的服务器信息
查询模板统计
用来查看查询模板的调用情况,查询服务器运行信息
数据管理
数据流
支持随意构建数据流向,拖拖拽拽完成数据同步,清洗,过滤等任何操作,全程不需要写任何代码。
数据流列表
查看有哪些数据流任务
数据流画布
支持在一个画布里面完成数据同步,清洗,过滤、报表数据生成等任何操作,全程不需要写任何代码。
发布服务器资源可控,自动容错,节点支持动态扩容,服务节点越多,性能越好。支持多版本,支持回滚。
数据流实时运行日志
数据流发布记录
在这里可以查看历史版本流程、以及支持回退到历史版本。
数据源
支持若干种数据源,插件方式,便于扩展其他数据源
数据源创建
数据源控制台
不同数据源支持不同的控制台,例如MySQL、StarRocks、Doris、Oracle等控制台样式如下
Kafka控制台
ElasticSearch控制台
等等其他控制台
数据对齐
通过页面简易配置即可能完成两个任意数据源、不同类型数据源数据表、索引等一致性校验,告警、并支持自动化修复!
数据对齐列表
这里方便查看有哪些对齐任务
数据对齐创建
配置何时触发,以及策略对齐策略:数量一致、内容一致、随机数量,对比时间范围等等配置。
数据对齐日志
开源快速方便查看任务的运行情况
数据对齐日志详情
针对某次对齐任务,不一致的数据快速查看,并提示出差异字段等。
查询模板
通过查询模板可以快速创建查询任务,支持多种数据源。不用后端开发再去编写查询报表、对外提供数据查询接口。
查询模板列表
支持版本控制、密钥、权限配置等
查询模板创建
支持动态条件、分表。
扩展支持限流、记录日志、缓存等配置
预览页面有示例文档,以及快速测试,测试没问题可以点击发布,外部服务即可调用。
查询模板调用日志
支持完善的日志记录,日志可跟踪。
查询日志详情
性能测试
| 模式 | 硬件规格 | 实例数量 | 速率(单任务) |
|---|---|---|---|
| 监听-流处理 | 6c12g | 1 | 30058/s |
| 批处理 | 6c12g | 1 | 60268/s |