【物联网】Qinghub Kafka 数据采集,Activity的6大难点你会几个

51 阅读4分钟

组件版本: 1.0.0
组件类型: 系统默认
状 态: 正式发布
组件描述:通用kafka连接网关,消费来自kafka的数据,并转发给下一个节点做相关的数据解析。

配置文件:

注: 配置文件仅供修改升级组件式利用,一般情况下对用户透明。无需做任何更改,除非用户需要手动维护组件心跳或通信端口时,一般情况下禁止修改。

df:
  component:
  	##全局参数
    name: tcp-connector
    type: 2                               #1:采集器;2:接收器;3:转换器;4:存储器;5:解析器;6:状态解析器:7:同步器;8:消息通知
    transportPort: 49096                  #内部akka
    heartbeatCron: 0/30 * * ? * * *       #网关心跳数据上报时间
    ##全局参数结束
    ##组件参数
    parameter:
      connection[0]:
        name: TCP服务端口号
        key: tcp.port
        required: true
        default-value: 16060
        input-type: input
        description: TCP服务占用的端口
        value-type: int
      base[0]:
        name: 数据包类型
        key: tcp.packet.type
        required: true
        default-value: 1
        value-type: int
        input-type: select
        select-option: 字符串类型|1,字节类型|2
      base[1]:
        name: 数据包固定分割字节数组ASCII值
        key: tcp.delimiter
        required: false
        default-value: 13,10
        input-type: input
        description: TCP数据包固定分割符十进制ASCII值,多个用英文,分割
        value-type: string
      base[2]:
        name: Byte类型数据包长度字节数
        key: tcp.length.field.length
        required: false
        default-value: 2
        input-type: input
        description: 整个Byte类型的TCP数据包,包长度字节段一共有几个字节,用于长度拆包模式
        value-type: int
      base[3]:
        name: Byte类型数据包长度数据段起始位置偏移
        key: tcp.length.field.offset
        required: false
        default-value: 0
        input-type: input
        description: 长度字节段在整个数据包中从起始位置的偏移,用于长度拆包模式
        value-type: int
      base[4]:
        name: Byte类型数据包长度含义
        key: tcp.length.meaning
        required: false
        default-value: 1
        input-type: select
        select-option: 长度字节后数据长度|1,整个TCP包长度|2
        description: 数据包中字节长度的含义,是长度字节后面的字节长度,还是整个TCP包的长度
        value-type: int
      advance[0]:
        name: 连接最大空闲时间秒数
        key: tcp.timeout.seconds
        required: false
        value-type: int
        default-value: 60
        input-type: input
        description: TCP连接最大空闲时间,单位秒,默认60秒
      advance[1]:
        name: TCP包每一帧最大字节数
        key: tcp.max.frame.length
        required: false
        value-type: int
        default-value: 2048
        input-type: input
        description: TCP包每一帧最大字节数,超过最大字节数会丢弃数据并关闭连接,默认2048


组件测试

针对所有网关,操作方式均为,拖动网关-》配置网关-》启动网关

  1. 配置网关

image.png

  1. 参数说明

image.png
image.png
image.png

  1. 启动网关

注意观察执行日志,确保网关正常运行,状态status 字段为1时表示正常运行中
image.png

  1. 测试验证

1)前提准备:

img img

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化资料的朋友,可以戳这里获取

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!