零门槛上手!qData开源数据中台极速部署全流程

428 阅读4分钟

千数平台(qData) 是一款一站式开源数据中台,覆盖中台基础建设、数据治理、数据开发、监控告警、数据服务与数据可视化等核心能力,致力于高效赋能数据前台,为各类业务系统提供统一、高效、安全的数据支撑服务。

🛠️ 一、准备工作

系统要求

组件版本要求
JDK1.8
Node.js18+
yarnv1.22.22+
DM8大小写不敏感、GB18030编码
Redis5.0+
RabbitMQ无版本要求
Maven3.6+
Docker1.13.1+
Docker Compose1.28.0+

二、目录结构

2.1 项目结构

├─qdata-framework           # 公共配置模块
├─qdata-server              # 启动项目
├─qdata-module-system       # 系统管理模块
├─qdata-module-att          # 基础管理模块
├─qdata-module-dp           # 数据标准管理模块
├─qdata-module-da           # 数据资产模块
├─qdata-module-dpp          # 数据汇聚模块
├─qdata-module-ds           # 数据服务模块
├─qdata-api-ds              # ds调度器接口模块
├─qdata-etl                 # spark-etl程序模块
├─qdata-ui                  # 前端模块
├─sql                       # sql脚本
├─README.md                 # 相关介绍
├─DEPLOY.md                 # 快速启动

2.2 后端结构

├─qdata-framework           # 公共配置模块
├─   ├─qdata-websocket      # websocket模块
├─   ├─qdata-security       # security模块
├─   ├─qdata-redis          # redis模块
├─   ├─qdata-quartz         # 定时任务模块
├─   ├─qdata-mybatis        # mybatis配置
├─   ├─qdata-generator      # 代码生成器
├─   ├─qdata-file           # 文件管理模块
├─   ├─qdata-es             # es模块
├─   ├─qdata-config         # 配置模块
├─   ├─qdata-common         # 共通模块
├─   ├─qdata-auth           # oauth2模块
├─qdata-server              # 启动项目
├─qdata-module-system       # 系统管理模块
├─qdata-module-att          # 基础管理模块
├─qdata-module-dp           # 数据标准管理模块
├─qdata-module-da           # 数据资产模块
├─qdata-module-dpp          # 数据汇聚模块
├─qdata-module-ds           # 数据服务模块
├─qdata-api-ds              # ds调度器接口模块
├─qdata-etl                 # spark-etl程序模块

2.3 前端结构

├─qdata-ui                  # 前端模块
├─   ├─public                   # 静态资源目录
├─   ├─vite.config.js           # Vite配置文件
├─   ├─src
├─   |  ├─views                     # 页面视图
├─   |  |   ├─system                # 系统管理模块
├─   |  |   ├─att                   # 基础管理模块
├─   |  |   ├─dp                    # 数据标准管理模块
├─   |  |   ├─da                    # 数据资产模块
├─   |  |   ├─dpp                   # 数据汇聚模块
├─   |  |   ├─ds                    # 数据服务模块
├─   |  ├─utils                 # 工具类
├─   |  ├─store                 # 状态管理
├─   |  ├─router                # 路由
├─   |  ├─plugins               # 插件
├─   |  ├─layout                # 布局
├─   |  ├─components            # 通用组件
├─   |  ├─assets                # 图片、样式等资源
├─   |  ├─api                   # 接口
├─   ├─.env.development         # 开发环境配置
├─   ├─.env.production          # 生产环境配置

🚀 三、快速启动

3.1 Spark 部署(Linux 环境)

1. 下载 Spark

🔗 Spark 3.5.5下载

2. 验证 Java 环境

java -version

#  预期输出

java version "1.8.0_441"
Java(TM) SE Runtime Environment (build 1.8.0_441-b07)
Java HotSpot(TM) 64-Bit Server VM (build 25.441-b07, mixed mode)

3. 解压文件

tar -xzf spark-3.5.5-bin-hadoop3.tgz

4. 启动 Master 节点

cd spark/sbin

./start-master.sh

✅ 验证:访问 http://<服务器IP>:8080 ,若显示 Spark 管理页面则启动成功。📋 记录 Master URL(如:spark://127.0.0.1:7077),用于启动 Worker 节点。

5. 启动 Worker 节点

cd spark/sbin

./start-slave.sh <Master URL>  # 替换为上一步记录的URL

✅ 验证:刷新 Spark 管理页面,检查 "Workers" 列表是否新增节点(如图示)。

Spark Worker验证

3.2 DS 调度器启动

1. 获取代码
加入 QQ 群获取:814145903

2. 启动指南
🔗 DolphinScheduler 开发环境搭建

3.3 后端配置文件修改 ⚙️

1. 切换开发环境
#  application.properties
spring:
 profiles:
   active: dev  # 设置为开发环境
2. 配置关键参数(application-dev.yml)
#  达梦数据库配置
dm8:
 driver-class-name: dm.jdbc.driver.DmDriver
 url: jdbc:dm://127.0.0.1:5236/QDATA?STU&zeroDateTimeBehavior=convertToNull&useUnicode=true&characterEncoding=utf-8&schema=QDATA&serverTimezone=Asia/Shanghai
 username: <数据库账号>  # 替换为实际账号
 password: <数据库密码>  # 替换为实际密码
 
#  RabbitMQ配置
rabbitmq:
 host: 127.0.0.1
 port: 40003
 username: <账号>  # 替换为实际账号
 password: <密码>  # 替换为实际密码

#  DS调度器配置
ds:
 base_url: http://127.0.0.1:40018/dolphinscheduler
 token: <调度器令牌>  # 在调度器-安全中心-令牌管理中创建
 spark:
   master_url: spark://127.0.0.1:7077  # 与Spark Master地址一致
   main_jar: file:/dolphinscheduler/default/resources/spark-jar/qdata-etl-3.8.8.jar  # 上传etl包后路径
   main_class: tech.qiantong.qdata.spark.etl.EtlApplication

3.4. 初始化数据库

  1. 创建数据库模式

    • 默认模式名称:QDATA
    • 如需修改:编辑 sql/dm/qdata-dm.sql 文件中的模式名称
  2. 执行初始化脚本

    # 使用达梦命令行工具执行
    disql SYSDBA/SYSDBA@127.0.0.1:5236 -f sql/dm/qdata-dm.sql
    

3.5. 启动后端服务

#  执行主类QDataApplication的main方法
#  成功提示
(♥◠‿◠)ノ゙  qData 千数平台启动成功!  ლ(´ڡ`ლ)゙

3.6 前端配置与启动

1. 配置代理(vite.config.js)

// 代理配置
server: {
 port: 81,
 host: true,
 open: true,
 proxy: {
   "/dev-api": {
     target: "http://<后端IP>:<端口号>",  // 替换为实际后端地址,例如http://localhost:8080
     changeOrigin: true,
     rewrite: (p) => p.replace(/^\/dev-api/, ""),
   }
 }
}

2. 安装依赖

cd qdata-ui

yarn install  # 或 npm install

3. 启动前端服务

yarn run dev  # 或 npm run dev

4. 浏览器访问

🚀 打开 http://localhost:81 进入系统