Streamsets定时拉取接口数据同步到HBase集群

188 阅读1分钟

最近有个项目,需要同步数据到ES,在这个项目之前,有一位订阅者求助,其需要完成一项定时拉取api接口数据,并同步到HBase的应用需求,在配置的环节发生了一些问题,需要我协助解决,在解决了问题后,征得他的同意,我截取了相关图片分享给大家。

1、同步主流程

根据应用需求可知,其必须用到定时器,HBase;因此把定时器作为数据源,把HBase作为数据目的地,其他的再增加Http请求处理,中间的一些列处理,即可完成该需求。
完成后的流程如下图所示。
在这里插入图片描述

2、定时器Cron组件配置

这里我们设定为1分钟采集一次。
在这里插入图片描述

3、发起api请求