一种流式数据处理方法及装置

基本信息

申请号 CN201811206809.4 申请日 -
公开(公告)号 CN109408546A 公开(公告)日 2019-03-01
申请公布号 CN109408546A 申请公布日 2019-03-01
分类号 G06F16/2455;G06F16/22;G06F16/182;G06Q40/00 分类 计算;推算;计数;
发明人 彭阳;张小言 申请(专利权)人 深圳中顺易金融服务有限公司
代理机构 深圳市凯达知识产权事务所 代理人 刘大弯
地址 518000 广东省深圳市前海深港合作区前湾一路1号A栋201室(入驻深圳市前海商务秘书有限公司)
法律状态 -

摘要

摘要 本发明涉及一种流式数据处理方法及装置,应用于大数据综合处理系统,所述大数据综合处理系统对接多个信托综合账户系统,所述多个信托综合账户系统包括订单系统和多个系统内部子系统;所述流式数据处理方法包括业务数据库、内存计算模块Spark和离线计算模块Hive,包括如下步骤:从所述多个系统内部子系统中选定源头子系统的订单号为系统全局标识,通过所述spark完成对每个子系统相关表增加全局标识的任务。