一种基于Hive的数据修改方法、装置及存储介质

基本信息

申请号 CN202010501946.1 申请日 -
公开(公告)号 CN111881173A 公开(公告)日 2020-11-03
申请公布号 CN111881173A 申请公布日 2020-11-03
分类号 G06F16/2458(2019.01)I 分类 计算;推算;计数;
发明人 洪蒙纳;方主升;李继庚 申请(专利权)人 博依特(广州)工业互联网有限公司
代理机构 广州三环专利商标代理有限公司 代理人 郭浩辉;麦小婵
地址 510000广东省广州市黄埔区揽月路105号401房之自编406室
法律状态 -

摘要

摘要 本发明公开了一种基于Hive的数据修改方法、装置及存储介质,该方法先获取待录入数据,然后根据采集时间,查询Hive数据仓库中是否存储有与待录入数据的采集时间相同的已录入数据,如果没有则进行数据录入,如果有已录入数据,则将待录入数据与查询到的已录入数据划分为同一组,并在该组数据被调用时,根据各条数据的入库时间戳,将入库时间最晚的数据作为该组的调用数据。采用本发明技术方案对Hive内的每条数据进行分组管理,并引入入库时间戳标识是否产生数据更新,在数据调用时能够调用最新的数据,避免数据错误而导致数据调用后的计算错误,同时降低了修改成本,提高修改效率。