数据采集方法、装置及终端设备

基本信息

申请号 CN201811512927.8 申请日 -
公开(公告)号 CN109800259B 公开(公告)日 2021-08-10
申请公布号 CN109800259B 申请公布日 2021-08-10
分类号 G06F16/25 分类 计算;推算;计数;
发明人 张秀仕;张长虹 申请(专利权)人 深圳市金证科技股份有限公司
代理机构 深圳中一联合知识产权代理有限公司 代理人 张全文
地址 518057 广东省深圳市南山区科技园高新区南区高新南五道金证科技大楼8-9层
法律状态 -

摘要

摘要 本发明适用于数据处理技术领域,提供了数据采集方法、装置及终端设备,包括:读取预先配置的配置文件;根据所述配置文件配置的采集任务,实时获取目标数据源数据,其中所述采集任务的数量大于或等于1,每个采集任务对应一个所述目标数据源;根据所述配置文件中与所述采集任务对应配置的解码器,解析所述目标数据源数据,得到第一数据;将所述第一数据进行格式转换,得到第二数据;发送所述第二数据至开源分布式流处理平台Kafka的集群中。本发明实施例能够实现多数据源、大数据量数据的实时采集。