数据采集技术指完成数据从源端获取,并传输到大数据平台,以供数据治理、数据服务使用。数据是指通过RFID射频数据、传感器数据、社交网络交互数据及移动互联网数据等方式获得的各种类型的结构化、半结构化(或称之为弱结构化)及非结构化的海量数据,是大数据知识服务模型的根本。重点要突破分布式高速高可靠数据爬取或采集、高速数据全映像等大数据收集技术;突破高速数据解析、转换与装载等大数据整合技术;
设计质量评估模型,开发数据质量技术。
OceanMind海睿思数据采集包括公开数据采集和采集汇聚工具。 公开数据采集主要偏向于互联网公开数据的采集、汇聚,公开数据采集是一个灵活、便捷、高效、可扩展的互联网数据爬虫系统。 可实现利用模板从指定公开网页上爬取数据,并提供给后续数据处理使用。 采集汇聚工具偏向于持有型数据的采集、汇聚,汇聚工具是可视化数据采集软件,外部数据通过采集工具将数据库或文件类型的数据转换为制定格式的文件(CSV、parquet)存放到指定的FTP路径。 API采集 SDK采集,核心是提供服务,在基于服务顺带采集部分数据。例如MobTech的ShareSDK,初衷是为了解决分享以及授权登录的功能,然后才是采集数据。这里的难点是思维上的转变以及数据获取上的壁垒攻克。 埋点其实和SDK采集类似,当前其实更趋向无埋点。