数据采集方法、装置及终端设备
基本信息
申请号 | CN201811512927.8 | 申请日 | - |
公开(公告)号 | CN109800259B | 公开(公告)日 | 2021-08-10 |
申请公布号 | CN109800259B | 申请公布日 | 2021-08-10 |
分类号 | G06F16/25 | 分类 | 计算;推算;计数; |
发明人 | 张秀仕;张长虹 | 申请(专利权)人 | 深圳市金证科技股份有限公司 |
代理机构 | 深圳中一联合知识产权代理有限公司 | 代理人 | 张全文 |
地址 | 518057 广东省深圳市南山区科技园高新区南区高新南五道金证科技大楼8-9层 | ||
法律状态 | - |
摘要
摘要 | 本发明适用于数据处理技术领域,提供了数据采集方法、装置及终端设备,包括:读取预先配置的配置文件;根据所述配置文件配置的采集任务,实时获取目标数据源数据,其中所述采集任务的数量大于或等于1,每个采集任务对应一个所述目标数据源;根据所述配置文件中与所述采集任务对应配置的解码器,解析所述目标数据源数据,得到第一数据;将所述第一数据进行格式转换,得到第二数据;发送所述第二数据至开源分布式流处理平台Kafka的集群中。本发明实施例能够实现多数据源、大数据量数据的实时采集。 |
