AllData数据中台通过开源项目RustFS建设现代数据湖存储,接入工业, 医疗, 物联网数据,包括文件/图像/音频/视频数据!

0 阅读5分钟

引导图.png

存储痛点: 传统存储之困:成本、安全与性能的三角难题

(1)非结构化数据(图片、视频、日志等)激增,传统存储扩容繁琐、性能不足;

(2)支持办公文档、文本、图片、各类报表、图像、音频、视频上传到对象存储分析;

(3)支持日志文件,XML 文档,JSON 文档进行数据分析和AI分析;

(4)存储平台部署复杂、运维繁琐,需要专业人员操作,运维成本高,中小团队难以负担

解决方案: 破局者登场,重新定义数据存储标准

(1)将各种非结构化数据,包括文件/图片/视频/日志,统一存储在 RustFS 中,实现数据的集中管理和共享。

(2)为模型训练提供高速的数据读取服务,大大缩短训练周期,提高训练效率。

(3)对存储在 RustFS 中的数据进行统一的质量监控和管理,确保数据的准确性、一致性和安全性。

(4)支持 RESTful API、GraphQL 等多种协议,帮助企业快速构建数据应用。

什么是 RustFS ?

此次 RustFS 集成功能的发布,不仅是 AllData 数据中台在存储能力上的重大突破,更是其完善产品矩阵、提升全链路服务能力的重要一步。

作为杭州奥零数据科技倾力打造的可定义数据中台,AllData 始终以“数据平台为底座、数据中台为桥梁、机器学习平台为中层框架、大模型应用为上游产品”,提供全链路数字化解决方案。

结合 RustFS 构建的现代数据湖存储,AllData 已形成“数据接入-同步-汇聚-存储-治理-分析-应用”的完整闭环,其核心价值体现在三大维度:

💎 RustFS 开源项目:github.com/rustfs/rust…

💎 RustFS 官方文档:docs.rustfs.com.cn

降本增效:极简部署降低运维成本,高性能存储提升数据处理效率,助力企业控制总体拥有成本;

安全可靠:Rust 语言的内存安全+AllData 全方位安全防护,搭配多副本、纠删码技术,实现12个9级数据持久性,保障数据万无一失;

灵活适配:跨平台、高兼容特性,适配国产化信创需求,支持多云部署与跨区域复制,满足企业多样化、个性化的存储与数据管理需求。

AllData + RustFS:强强联合,打造全链路数据解决方案

AllData 数据中台作为一个可定义的数据中台平台,旨在通过统一的数据接入、数据处理、数据治理和数据服务,为企业构建数据驱动的核心竞争力。此次集成 RustFS 建设现代数据湖存储,是 AllData 数据中台在数据存储领域的一次重大升级,为企业提供了全链路的数据解决方案。

37f26db30f67aa3ef24f62d0013b4585.png

功能菜单一:现代数据湖存储-数据存储资产

(1)数据存储资产-存储桶 91168516f8e9e6072a143a329db3bacb.png

(2)支持一键上传工业制造物联网-视频数据 8202c1cc813ac1323bc8048a7301c8cf.png

427e455026f32d5ca0b4704d290a3327.png

(3)支持将政务财务数据xlsx上传到对象存储 af6d4d66b06a1fd3d813b23f9dbcfbf2.png

(4)支持将资产管理、财富管理、投资等PDF、Docx文件数据上传到对象存储。

用于建设高质量数据集平台的数据源,方便数据分析和AI分析。 799c4272e1466653899497d6a3b6928d.png

86b5fc576bea9b2cb049550e390d2f65.png

(5)支持将制造业图片, 制造业视频上传到数据存储资产-视频MP4

通过BI平台导出的图片,可以在对象存储平台进行上传 d9db50d39806fe9d0c45492ccc5f5387.png

25fdd8c632fe71d998b53a725ba8201e.png

581464618a781c4ea74b12fb4711c136.png

(6)支持将第三方导出的JSON文件进行上传

数据服务平台导出的接口文档进行上传,以及JSON文件进行上传

fe7e179f03a923b9adb88293999a4bb9.png

导出接口文档如下 4c40b88615938a11ee22648cf06de3ac.png

上传到对象存储,用作文档分析源数据库 ced26834c3c49d5a149639fc9a013753.png

(7)支持将数据资产平台的离线任务JSON导出 cb1d2ee1ec6aa128d3b27d4a907f3620.png

上传到对象存储,支持JSON类型的数据分析和AI分析

2cf362bdb7c664ca91855cc792daed04.png

(8)数据存储资产-创建存储桶 07388f9a63563515e0d2642f64372ee8.png

9a1124ea033ca784111db38433c697d4.png

(9)数据存储资产-批量上传物联网IOT数据

5e9e363368f657177a1939bbda587fec.png

8d6e13de71b617d698649379145c2cb8.png

f55fc4f36171b105bb9027a01042fb71.png

72a0a11d4fca31762512cff29b318619.png

(10)数据存储资产-桶配置 2cb5a0a02294ecb71343b90e71826756.png

功能菜单二:现代数据湖存储-对象存储密钥

(1)对象存储密钥 b07fb68e64bf5d7cffdf5d9e3f19074a.png

(2)添加访问密钥 4de615fe0f37494da01eaad82b5d2639.png

(3)编辑密钥 9a279914dbda0e3bcbe3ee1e990b0871.png

功能菜单三:现代数据湖存储-性能监控

(1)服务器信息 f7b307c85c90175faf1740e4851b66ed.png

功能菜单四:现代数据湖存储-站点事件

(1)事件 254a030ae41fd722203c0b41e99fa143.png

(2)事件-添加事件订阅 6aaa928f2571db4cff793f3e153a92d9.png

功能菜单五:现代数据湖存储-站点复制

(1)站点复制 7a9752a8d2e6fd2ffd8c9c00e3fc7e87.png

(2)添加复制规则

5a58b5ad0712c922d623f4cf059ef599.png

功能菜单六:现代数据湖存储-生命周期

(1)生命周期

403e751edd4b93b85d3678f91bef96b0.png

(2)添加生命周期规则

18a967baa452ac2b858eded97f09299d.png

功能菜单七:现代数据湖存储-对象存储接入

(1)存储层 838acdae57ef2c883bedf8f3c18d4040.png

(2)添加存储层 af944869c1429800deb5f2ea7526f84a.png

功能菜单八:现代数据湖存储-事件推送

(1)事件推送 3062d490bf3be07c7d3b7b9156c909c6.png

(2)添加事件目标 cd2c95a5b26862b1391314afa798a67c.png

c8425bce95bc55a6ca0ba609265a7ff4.png

03d72c5a18fca86242de082b1e612bab.png

功能菜单九:现代数据湖存储-系统设置

(1)服务器端加密 (SSE) 配置

0158000aacbe7c020c65b195e7ffb078.png

AllData 大数据产品 × RustFS开源项目

AllData 数据中台集成 RustFS 建设现代数据湖存储的上线发布,是企业数据存储领域的一次重大创新和突破。这一解决方案不仅解决了企业在数据存储方面面临的成本、安全和性能等难题,还为企业提供了全链路的数据管理和应用能力,助力企业实现数字化转型和智能化升级。

在未来,AllData 数据中台将继续加大技术研发投入,不断优化和升级 RustFS 现代数据湖存储,为企业提供更加高效、安全、智能的数据存储解决方案。

AllData数据中台将积极拓展行业应用场景,与更多企业合作,共同推动数据存储和管理领域的发展,为数字经济的繁荣做出更大的贡献。让我们共同期待 AllData 数据中台在数据存储领域创造更多的辉煌!

杭州奥零数据科技官网:www.aolingdata.com

⏰ 4月30日 下午14:00

AllData数据中台新版本发布 & 涵盖13+新功能,抢先看!

立即预约,开播第一时间通知你

👇点击下方【预约按钮】

视频号“杭州奥零数据科技”

8ae3f88bddba9b25c88e76776335ba93.jpg