轻松搭建!qData开源数据中台快速部署指南轻松搭建!qData开源数据中台快速部署指南轻松搭建!qData开源数据中台快速部署指南轻松搭建!qData开源数据

184 阅读4分钟

千数平台(qData) 是一款一站式开源数据中台,覆盖中台基础建设、数据治理、数据开发、监控告警、数据服务与数据可视化等核心能力,致力于高效赋能数据前台,为各类业务系统提供统一、高效、安全的数据支撑服务。

Gitee:gitee.com/qiantongtec… Github:github.com/qiantongtec… 🛠️ 一、准备工作 系统要求 组件 版本要求 JDK 1.8 Node.js 18+ yarn v1.22.22+ DM8 大小写不敏感、GB18030编码 Redis 5.0+ RabbitMQ 无版本要求 Maven 3.6+ Docker 1.13.1+ Docker Compose 1.28.0+ 📁 二、目录结构 2.1 项目结构 ├─qdata-framework # 公共配置模块 ├─qdata-server # 启动项目 ├─qdata-module-system # 系统管理模块 ├─qdata-module-att # 基础管理模块 ├─qdata-module-dp # 数据标准管理模块 ├─qdata-module-da # 数据资产模块 ├─qdata-module-dpp # 数据汇聚模块 ├─qdata-module-ds # 数据服务模块 ├─qdata-api-ds # ds调度器接口模块 ├─qdata-etl # spark-etl程序模块 ├─qdata-ui # 前端模块 ├─sql # sql脚本 ├─README.md # 相关介绍 ├─DEPLOY.md # 快速启动 AI写代码

2.2 后端结构 ├─qdata-framework # 公共配置模块 ├─ ├─qdata-websocket # websocket模块 ├─ ├─qdata-security # security模块 ├─ ├─qdata-redis # redis模块 ├─ ├─qdata-quartz # 定时任务模块 ├─ ├─qdata-mybatis # mybatis配置 ├─ ├─qdata-generator # 代码生成器 ├─ ├─qdata-file # 文件管理模块 ├─ ├─qdata-es # es模块 ├─ ├─qdata-config # 配置模块 ├─ ├─qdata-common # 共通模块 ├─ ├─qdata-auth # oauth2模块 ├─qdata-server # 启动项目 ├─qdata-module-system # 系统管理模块 ├─qdata-module-att # 基础管理模块 ├─qdata-module-dp # 数据标准管理模块 ├─qdata-module-da # 数据资产模块 ├─qdata-module-dpp # 数据汇聚模块 ├─qdata-module-ds # 数据服务模块 ├─qdata-api-ds # ds调度器接口模块 ├─qdata-etl # spark-etl程序模块 AI写代码

2.3 前端结构 ├─qdata-ui # 前端模块 ├─ ├─public # 静态资源目录 ├─ ├─vite.config.js # Vite配置文件 ├─ ├─src ├─ | ├─views # 页面视图 ├─ | | ├─system # 系统管理模块 ├─ | | ├─att # 基础管理模块 ├─ | | ├─dp # 数据标准管理模块 ├─ | | ├─da # 数据资产模块 ├─ | | ├─dpp # 数据汇聚模块 ├─ | | ├─ds # 数据服务模块 ├─ | ├─utils # 工具类 ├─ | ├─store # 状态管理 ├─ | ├─router # 路由 ├─ | ├─plugins # 插件 ├─ | ├─layout # 布局 ├─ | ├─components # 通用组件 ├─ | ├─assets # 图片、样式等资源 ├─ | ├─api # 接口 ├─ ├─.env.development # 开发环境配置 ├─ ├─.env.production # 生产环境配置 AI写代码

🚀 三、快速启动 3.1 Spark 部署(Linux 环境)

  1. 下载 Spark 🔗 Spark 3.5.5下载

  2. 验证 Java 环境 java -version

预期输出

java version "1.8.0_441" Java(TM) SE Runtime Environment (build 1.8.0_441-b07) Java HotSpot(TM) 64-Bit Server VM (build 25.441-b07, mixed mode) AI写代码 3. 解压文件 tar -xzf spark-3.5.5-bin-hadoop3.tgz AI写代码 4. 启动 Master 节点 cd spark/sbin

./start-master.sh AI写代码 ✅ 验证:访问 http://<服务器IP>:8080 ,若显示 Spark 管理页面则启动成功。📋 记录 Master URL(如:spark://127.0.0.1:7077),用于启动 Worker 节点。

  1. 启动 Worker 节点 cd spark/sbin

./start-slave.sh # 替换为上一步记录的URL AI写代码 ✅ 验证:刷新 Spark 管理页面,检查 "Workers" 列表是否新增节点(如图示)。

3.2 DS 调度器启动

  1. 获取代码 加入 QQ 群获取:814145903

  2. 启动指南 🔗 DolphinScheduler 开发环境搭建

3.3 后端配置文件修改 ⚙️

  1. 切换开发环境

application.properties

spring: profiles: active: dev # 设置为开发环境 AI写代码 2. 配置关键参数(application-dev.yml)

达梦数据库配置

dm8: driver-class-name: dm.jdbc.driver.DmDriver url: jdbc:dm://127.0.0.1:5236/QDATA?STU&zeroDateTimeBehavior=convertToNull&useUnicode=true&characterEncoding=utf-8&schema=QDATA&serverTimezone=Asia/Shanghai username: <数据库账号> # 替换为实际账号 password: <数据库密码> # 替换为实际密码

RabbitMQ配置

rabbitmq: host: 127.0.0.1 port: 40003 username: <账号> # 替换为实际账号 password: <密码> # 替换为实际密码

DS调度器配置

ds: base_url: http://127.0.0.1:40018/dolphinscheduler token: <调度器令牌> # 在调度器-安全中心-令牌管理中创建 spark: master_url: spark://127.0.0.1:7077 # 与Spark Master地址一致 main_jar: file:/dolphinscheduler/default/resources/spark-jar/qdata-etl-3.8.8.jar # 上传etl包后路径 main_class: tech.qiantong.qdata.spark.etl.EtlApplication AI写代码

3.4. 初始化数据库 创建数据库模式

默认模式名称:QDATA 如需修改:编辑 sql/dm/qdata-dm.sql 文件中的模式名称 执行初始化脚本

使用达梦命令行工具执行

disql SYSDBA/SYSDBA@127.0.0.1:5236 -f sql/dm/qdata-dm.sql

AI写代码 3.5. 启动后端服务

执行主类QDataApplication的main方法

成功提示

(♥◠‿◠)ノ゙ qData 千数平台启动成功! ლ(´ڡ`ლ)゙ AI写代码 3.6 前端配置与启动

  1. 配置代理(vite.config.js) // 代理配置 server: { port: 81, host: true, open: true, proxy: { "/dev-api": { target: "http://<后端IP>:<端口号>", // 替换为实际后端地址,例如http://localhost:8080 changeOrigin: true, rewrite: (p) => p.replace(/^\/dev-api/, ""), } } } AI写代码

  2. 安装依赖 cd qdata-ui

yarn install # 或 npm install AI写代码 3. 启动前端服务 yarn run dev # 或 npm run dev AI写代码 4. 浏览器访问 🚀 打开 http://localhost:81 进入系统 ————————————————

                        版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
                    

原文链接:blog.csdn.net/qiantongkej…