亲测丝滑,体验跃迁|AllData通过集成开源项目StreamPark,实时流任务调度更省心!

0 阅读7分钟

引导图_副本.png 最近悄悄搞了个大动作!AllData数据中台集成开源项目StreamPark全新构建实时开发平台!这不仅是一次功能的迭代,更是实时计算能力的全面跃迁。

02e8db15571e719f7d0ec87ce20cfecd.png

以往开发实时数据任务,大多只能逐行手写代码,不仅上手门槛极高,还极易因细微拼写错误耗费大量时间排查调试。

StreamPark可视化拖拽开发模式,只需在页面简单拖拽组合,即可快速搭建实时作业,大幅降低实时开发入门门槛,零基础新手也能快速上手实操。

💎项目地址:github.com/apache/stre…

💎文档地址:streampark.apache.org/docs/get-st…

c7143444c2663ce752809f98738391c6.png

9674c419e02bfeff463cce4b6c92e23b.png 实时开发平台(StreamPark)的这次升级迭代,不仅是视觉层面的优化,更是以用户为中心、深耕企业实时计算需求的深度体现。

以往搭建复杂的 Flink 实时任务,需手动打包上传、编写繁琐的提交参数,耗时费力还易出错。如今依托 StreamPark,在线构建搭配可视化配置,即可快速完成从代码开发到任务上线的全流程。

实时开发平台有效解决了传统模式下部署冗杂、依赖混乱及故障恢复困难等核心痛点,为企业构建稳定、高效的实时数据体系提供了坚实底座。

2806ebd44a9b9eb5930a901e3c7a6424.png

c027ccd19f92cfa5452a4fe2bd57b8a3.png

实时开发平台【StreamPark】功能展示

1、Apache Flink

提供Flink版本与集群配置,支持作业全生命周期管理,包括创建、编辑、运行与监控。 fba1189d83b564f0192da63018eccacc.png

2、Apache Spark

可视化监控作业状态、资源使用及运行指标。具备多版本兼容、集群管理、故障自愈能力,实现实时数据的高效处理与运维。 30ee3e050cd5e3073a51d4faaec0a221.png

3、资源中心

支持创建和维护Flink、Spark等项目,集中托管作业所需的Jar包、UDF函数等依赖文件。 662c8d490996c258b035d5b8e6af2e3a.png

4、设置中心

支持设置Maven 配置、 Settings 路径、仓库地址及访问账号密码,可管理构建依赖,保障 Flink/Spark 任务开发与编译环境稳定。 103140d7f2e8a27f55204abc98aa1cf8.png

5、系统管理

支持增删改查用户,可配置账号类型、登录方式与状态,管控权限与操作。

3386a50db6334657784088d59011d9d1.png

e6616cb628c6d244236eb1ebaf8cafe6.png

一、使用流程图示 e328a483f617f44904fa861c8fa87790.png

二、Apache Flink Apache Flink:实时开发平台的 “实时心脏”。专门处理实时数据流,数据一产生就立刻计算,延迟极低,还能记住历史状态。

1、作业管理:Flink作业管理实现作业提交、调度、监控与动态资源分配,保障实时计算高效稳定。

新建作业路径:点击【+添加】→ 填写作业信息(在FlinkSQL部分编辑完成后需要先点击【验证】确认正确后再点击【格式化】规范SQL语言)→ 提交保存 → 返回作业管理列表手动点击【运行】启动作业。

750b65dea49edee91d3059d5c751cb60.png 图1-Apache Flink作业管理页面

53d523551135173b04fcbe7728447a6c.png 图2-新建/编辑Apache Flink作业管理

c6c80a171d1ec359e486521d29a1581b.png 图3- 查看Apache Flink作业详情

b02aef88ada817be049a91be9b9c9459.png 图4-查看Apache FlinkSQL语句

2、Flink版本

提供一站式Flink作业管理,支持多版本兼容,具备作业提交、调度、监控及故障自愈能力,保障实时计算高效稳定运行。 bd8423e4dc4863c99e2763a9de04f1a2.png 图5-Flink版本页面

支持多环境参数动态绑定,可一键下发Flink作业参数、依赖库及资源规格至集群,实现开发/测试/生产环境配置级联更新,避免人工疏漏导致作业异常。

c14e7f93809ac491337e07ee3d237e40.png 图6-Flink版本操作配置同步

3、集群管理 提供多集群统一纳管与资源动态调度,支持Flink作业跨集群分发、资源配额隔离、健康度监控及故障自愈,保障实时计算集群高可用与弹性伸缩。

1070f32a3c4f7fe30845c6d3694cb277.png 图7-Apache Flink集群管理页面

9ee6f7a8faca75c0b9f22709c5b65478.png 图8-添加集群

三、Apache Spack 实时开发平台的 “全能多面手”,批处理为主、兼顾准实时,擅长大规模离线数据计算,也能做 “秒级” 实时,功能全面。

1、作业管理 支持Spark任务全周期管控,涵盖提交、调度、监控及故障自愈,保障任务稳定运行。

a3fddde8d6c6091679a39a15872e9103.png 图9-Apache Spark作业管理页面

eb4d97969b702c882b07d9d76ca7b607.png 图10-新建/创建Apache Spark作业

2、Spark版本

支持多版本Spark管理,提供版本配置、依赖隔离与集群适配,保障Spark作业稳定运行与跨环境兼容性。

eed1e7debe86c0fa787de53a9ac4289d.png 图11-新建/创建Apache Spark作业

6c809fb370ddfad81491c7672858c359.png 图12-添加Spark版本

四、资源中心

1、项目管理:支持资源分库分类、权限隔离与版本追溯,实现多项目资源独立管控,避免跨团队协作冲突与资源误用。

f4e7e473fced25476f28011e74fc3e69.png 图13-项目管理页面

f338d827b4ea66a6cf1d3937542baabb.png 图14-创建项目

d0b6ebc47baa75aa44dae1f5d6475084.png 图15-查看构建日志

2、资源上传

支持多格式资源一键上传。

6a42fccbe1efcfaf7fed6180f3836c99.png 图16-资源上传页面

1581a364c5d5c44a37b82adb1c9f3d91.png 图17-添加资源弹窗

3、变量管理

支持全局/项目级变量配置、多环境动态替换与版本追踪,实现资源参数与代码解耦,保障跨环境部署一致性。

1b75671d69bf53482b6f66513d1c5f8e.png 图18-变量管理页面

1b75671d69bf53482b6f66513d1c5f8e.png 图19-新建变量管理

五、设置中心

1、环境设置 支持多环境参数隔离、集群动态绑定与资源变量联动。

22c97399a14ca92828ebe403cf7bbc12.png 图20-环境设置页面

2、告警设置 多维度阈值配置、多渠道通知(邮件/短信)与告警策略自定义。

7d5f274b019a0ab6f1e1e27e1a91777f.png 图21-告警设置页面

f070926c908ae81ef52091d447a05c9c.png 图22-告警设置弹窗

3、扩展链接

给 Flink/Spark 任务页面添加自定义快捷入口,在平台内就能一键跳转到任务相关的外部系统,不用来回切换多个工具。

3e25d107af47970e24157328a50ca588.png 图23-扩展链接新增弹窗

4、Yarn队列

自支持按业务分域配置资源池,动态分配核数/内存配额,绑定优先级与用户组,保障实时作业资源强隔离。 在这里插入图片描述 图24-Yarn队列添加弹窗

六、系统管理

1、用户管理

支持跨部门资源隔离、权限组批量分配与协作审计,实现实时开发团队与业务场景的动态映射,保障多项目资源安全协同。

45d471b0656a06d9fa5f598cc51ede9a.png 图25-用户管理页面

2、角色管理

权限模板库,定义岗位权限,批量给用户授权。

b8e783ffc3b317a8dabdee97af4b0c8c.png 图26-角色管理编辑/新增弹窗

3、秘钥管理

安全凭证库,统一管理所有密码、密码、Token,避免泄露。

ba80e4d08c5f53248b23ae4d3a95fd21.png 图27-秘钥管理页面

100eff51d308b250e4b5aa07e7936b2e.png 图28-秘钥管理新建令牌

4、团队管理

支持跨部门资源隔离、权限组批量分配与协作审计,实现实时开发团队与业务场景的动态映射,保障多项目资源安全协同。

14defa3f997268ae70229c49ea519a70.png 图29-团队管理页面

5、成员管理 支持跨团队账号聚合、权限动态调整与操作行为溯源,实现企业级用户资源精细化管控,保障实时开发协作安全合规。

23e907076652c18cb2fc730f83b8c48a.png 图30-成员管理页面

AllData 数据中台集成StreamPark开源项目的这次升级,不只是简单的功能叠加,更是实时流任务调度运维从 “繁琐低效” 到 “极简智能” 的跨越式升级。

AIIData数据中台复杂的底层适配、引擎兼容、调度逻辑、故障容错,把简单便捷的操作体验留给用户。如果你还在为实时流任务开发繁琐、调度混乱、运维压力大、故障恢复慢而烦恼,不妨去体验一下这次的全新升级。相信我,这种焕然一新的数据治理体验,绝对会让你直呼“真香”!

626346f07924f74de7bd65b4f6d5694f.png

d28668b97e4b26c9bbd42e5b014d6b63.png