【国产免费】ETL分布式调度,自动化运维管理工具 TASKCTL 8.0 系统核心安装

·  阅读 49
【国产免费】ETL分布式调度,自动化运维管理工具 TASKCTL 8.0 系统核心安装

TASKCTL 8.0

8.0是一款基于B/S架构的【企业级免费ETL任务批量处理工具】它支持各类脚本任务程序和扩展;具备可视化图形拖拽设计界面,以及可视化任务作业管理、计划调度、实时监控、消息提醒和日志分析功能;有效弥补了传统ETL工具在调度管理和监控分析方面不足;同时平台还提供原数据管理、数据质量、版本控制、日志分析等完善的辅助管理功能,为企业提供数据迁移、数据仓库、数据标准化、数据同步、数据备份、数据交换以及企业定制化二次开发在内的一体化数据整合服务。

核心结构

由上图可知应用层为客户端,控制层为服务端。同时,服务端完成对目标层的调度控制。整个平台采用无数据库设计,每层之间以TCP作为通信协议。

  • 应用层从功能的角度,主要分admin,designer,monitor。从应用渠道的角度,又分Web端及Windows应用客户端渠道与后台字符界面客户端渠道。同时,为了进一步方便用户,系统服务端还提供了丰富的控制操作行命令。

  • 控制层是多级金字塔架构,顶层为服务控制节点,完成各种调度服务控制以及为客户端提供各种操作应用服务。而代理层完成与目标服务器(ETL等)的控制交互。代理层通过主从代理级联方式,可实现对集群部署的服务器进行调度控制,实现负载均衡等。

  • 目标层,是整个产品所控制的目标,比如我们的ETL服务器,作业工作站等。

获取安装包

软件安装包都可以通过访问产品官网下载页面获取。若需要其他Unix环境服务端软件,例如【Aix版本】,可联系官方获取。

1. 后台服务核心+字符界面客户端集成安装包

根据操作系统类型【32位/64位】选择对应的软件下载。

2. 在线应用客户端

需要【安装jdk 1.8版本】

安装概述

由产品的核心架构图以及获取的产品安装包,我们清楚该产品分为两部分安装,即后台核心系统安装和应用客户端系统安装。而后台核心系统安装又分为核心调度服务安装和核心调度代理安装。而客户端应用系统安装也分为两部分安装,即后台字符界面应用系统安装和在线应用系统安装。

因为后台字符界面应用系统和产品核心系统环境差不多,所以把核心产品系统和后台字符界面系统放到一个安装包里,即后台软件安装包,这样也是方便后面提到的典型安装部署。

核心安装

产品核心由核心调度服务节点和核心调度代理节点构成,它们协同工作,共同完成后台核心的各种功能。所以产品核心安装分为核心调度服务节点安装、核心调度代理节点安装。一个平台必须安装且只能安装一个核心调度服务节点,而核心调度代理节点则根据实际情况安装部署,核心调度服务节点中已经集成了一个核心调度代理,当单机部署时,只用安装核心调度服务节点即可。

由于核心采用多层次网络体系,所以对IP地址和端口的管理尤其重要,管理员必须合理分配好。

核心调度服务节点安装

安装环境

安装步骤

_第一步:_解压安装包:把安装包拷贝到需要安装核心调度服务的用户下,解压安装包文件如下:

tar -xvf taskctlforxxxx_x.x.x.tar.gz ----lix系统安装包,不同系统不同安装包

_第二步:_配置环境变量:在安装用户下进入到.bash_profile或.profile文件中配置环境变量如下:

export TASKCTLDIR=$HOME/task --安装目录export PATH=$PATH:$TASKCTLDIR/bin:. --执行bin目录

(配置完成后使环境变量生效,<重新登录用户或者用source命令>,以 echo $TASKCTLDIR能打印出环境变量值为准)

_第三步:_执行安装程序:进入到cirinst目录下,执行inst程序。然后进入字符界面如下图所示:

​点击回车键后,安装程序会自动检查用户环境变量,如果TASKCTLDIR环境变量目录存在则继续,否则按照第二步配置好环境变量再重新安装。检查通过后会出现以下界面:

关于典型安装我们会在之后的章节进行说明。这里先选择2自定义安装。选择好了后会出现以下界面:

接下来选择1核心调度服务安装。安装程序自动开始安装到之前指定的产品目录。并要求输调度服务节点IP地址和监听端口号等信息。如下图所示:

  • IP 地 址:使用管理员分配给服务节点的IP地址(必须是本机IP地址)

  • 端 口:使用管理员分配给服务节点的端口号(必须是未被占用端口)

确认输入信息之后,安装程序提示是否安装范例。如下图所示:

这里根据自身需求选择是否安装范例,初次使用的用户建议安装范例,里面有很多范例可以参考学习。

选择完是否安装范例后,默认会启动服务。至此,调度服务节点安装完毕。此时用户可以通过 "ctlninfo命令" 或者查看 "$(TASKCTLDIR)" 目录下是否产生如下目录:

如果存在,也可间接证明安装调度服务节点成功。

核心调度代理节点安装

产品核心由核心调度服务节点和核心调度代理节点构成,默认的单机部署只用安装服务节点即可;当有跨服务器的调度需求时,我们就需要通过安装代理来满足需求。服务节点和代理节点的安装包都是同一个,通过安装时选择不同的选项完成。

安装环境

代理节点安装环境

安装步骤

_第一步:_解压安装包:把安装包拷贝到需要安装核心调度代理节点的用户下,解压安装包文件如下:

 tar -xvf taskctlforxxxx_x.x.x.tar.gz ----lix系统安装包,不同系统不同安装包

_第二步:_配置环境变量:在安装用户下进入到.bash_profile或.profile文件中配置环境变量如下:

  export TASKCTLDIR=$HOME/task --安装目录  export PATH=$PATH:$TASKCTLDIR/bin:. --执行bin目录

(配置完成后使环境变量生效,<重新登录用户或者用source命令>,以 "echo $TASKCTLDIR" 能打印出环境变量值为准)

_第三步:_执行安装程序:进入到cirinst目录下,执行inst程序。然后进入字符界面如下图所示:

点击回车键后,安装程序会自动检查用户环境变量,如果TASKCTLDIR环境变量目录存在则继续,否则按照第二步配置好环境变量再重新安装。检查通过后会出现以下界面:

关于典型快速安装我们会在之后的章节进行说明。这里先选择2产品自定义安装。选择好了后会出现以下界面:

接下来选择2核心调度代理安装。安装程序自动开始安装到之前指定的产品目录。并要求输入代理节点IP地址和监听端口号等信息。如下图所示:

  • IP 地 址:使用管理员分配给代理节点的IP地址(必须是本机IP地址)

  • 端 口:使用管理员分配给代理节点的端口号(必须是未被占用端口)

确认输入信息之后。如下图所示:

至此,代理节点安装完毕。此时用户可以通过 "ctlninfo命令" 或者查看$(TASKCTLDIR))目录下是否产生如下目录:

应用客户端安装

客户端应用系统分为web在线应用系统、【Linux/unix字符界面】应用系统和【Windows客户端】应用系统三部分。不同的系统代表用户使用的不同渠道,web在线应用系统和Windows客户端应用系统的界面和操作更直观。而字符界面系统功能更全面。另外,字符界面也是安装在【Linux/unix】下,所以集成在了核心服务的安装包中。

从【8.0版本】开始,将采用web在线应用系统的图例来说明操作步骤。若需要查看【Windows客户端】的图例,查看早期版本文档。

在线应用系统安装

在线应用系统要【安装java1.8及以上版本】 通过大量实践测试表明:在监控环境下,Monitor应用模块是支持实时(延迟不应超过5秒)图形监控系统。特别是在启动大量并发监控界面的时候,对系统的性能的要求较高。但在开发环境下,Admin和Designer应用模块对系统性能的要求相对较低。因此目前主流的客户机都能满足生产环境的硬件要求

安装环境

安装步骤

1. 环境准备

因为在线应用系统需要安装【java1.8版本】,可以通过 “java – version” 命令查看具体,如下图所示

2. 步骤

a) 上传并解压安装【安装包taskctl-web-7.1.zip】

b) 进入解压后的目录taskctl-web-7.1,执行sh install.sh命令。确定web应用的IP/端口及调度服务端的IP/端口信息。

c) 执行startup.sh启动web应用。通过Webkit内核的浏览器(如:360,chrome等)访问地址

d) 安装过程完毕

Windows应用系统安装

该客户端是 windows操作系统下,基于【.net framework 4.0环境】开发的【C/S结构】的应用系统。

安装环境

安装步骤

_第一步:_客户端用户权限设置:软件操作用户具有以下系统权限如下图:

_第二步:_解压安装包:【TaskctlClientInstall_x.x.x.zip】

_第三步:_运作安装程序:执行安装程序 "TaskctlClientInstall_x.x.x..exe" 进入安装向导,如下图所示:

点击<下一步>出现如下图所示:

需要用户接受安装许可协议才能下一步。点击<我接受>,出现如下图所示:

点击<下一步>,出现如下图所示:

选择好安装路径后,点击<下一步>出现如下图所示:

如果确认安装点击<安装>,将进入安装界面并完成安装。出现如下图所示:

点击<完成>按钮即可。此时在桌面上出现Admin/ Designer /Monitor三个快捷键应用程序图标。

字符界面应用系统安装

安装环境

安装步骤

_第一步:_解压安装包:把安装包拷贝到需要字符界面客户端的用户下,解压安装包文件如下:

 tar -xvf taskctlforxxxx_x.x.x.tar.gz ----lix系统安装包,不同系统不同安装包

_第二步:_配置环境变量:在安装用户下进入到.bash_profile或.profile文件中配置环境变量如下:

 export TASKCTLDIR=$HOME/task --安装目录 export PATH=$PATH:$TASKCTLDIR/bin:. --执行bin目录

(配置完成后使环境变量生效,<重新登录用户或者用source命令>,以 "echo $TASKCTLDIR" 能打印出环境变量值为准)

第三步:执行安装程序:进入到 "cirinst目录下,执行inst程序" 然后进入字符界面如下图所示:

点击回车键后,安装程序会自动检查用户环境变量,如果 "TASKCTLDIR环境变量" 目录存在则继续,否则按照第二步配置好环境变量再重新安装。检查通过后会出现以下界面:

关于典型快速安装我们会在之后的章节进行说明。这里先选择2产品自定义安装。选择好了后会出现以下界面:

接下来选择3字符界面客户端安装。安装程序自动开始安装到之前指定的产品目录。并要求输入服务端IP地址和服务端端口号等信息。如下图所示:

  • IP 地 址:是服务端的IP地址,和前面安装的服务节点IP地址一致

  • 端 口:是服务端的端口号,和前面安装的服务节点端口一致

至此,字符界面客户端安装完毕。此时用户可以查看 "$(TASKCTLDIR)" 目录下是否产生如下目录:

此时用户可以使用ctladmin管理平台、ctlflowc开发平台和ctlmoni监控平台单个软件。

典型安装

安装环境

安装步骤

_第一步:_解压安装包:把安装包拷贝到需要安装服务的用户下,解压安装包文件如下:

  tar -xvf taskctlforxxxx_x.x.x.tar.gz ----lix系统安装包,不同系统不同安装包

_第二步:_配置环境变量:在安装用户下进入到.bash_profile或.profile文件中配置环境变量如下:

 export TASKCTLDIR=$HOME/task --安装目录 export PATH=$PATH:$TASKCTLDIR/bin:. --执行bin目录

(配置完成后使环境变量生效,<重新登录用户或者用source命令>,以 "echo $TASKCTLDIR" 能打印出环境变量值为准)

_第三步:_执行安装程序:进入到 "cirinst目录下,执行inst程序" 然后进入字符界面如下图所示:

点击回车键后,安装程序会自动检查用户环境变量,如果 "TASKCTLDIR环境变量" 目录存在则继续,否则按照第二步配置好环境变量再重新安装。检查通过后会出现以下界面:

这里我们选择1典型安装。安装程序会依次安装字符界面客户端、核心调度服务控制节点,并要求输入调度服务节点IP地址和服务节点监听端口号。

  • IP 地 址:使用管理员分配给服务节点的IP地址(必须是本机IP地址)

  • 端 口:使用管理员分配给服务节点的端口号(必须是未被占用端口)

接下来就是是否安装范例,根据自身需求选择后,回车,服务就安装完成并启动了。

分类:
开发工具
分类:
开发工具
收藏成功!
已添加到「」, 点击更改