一种向Hbase中批量写入海量电力量测数据的方法

基本信息

申请号 CN202010194317.9 申请日 -
公开(公告)号 CN113220775A 公开(公告)日 2021-08-06
申请公布号 CN113220775A 申请公布日 2021-08-06
分类号 G06F16/27;G06Q50/06;G06F16/25 分类 计算;推算;计数;
发明人 彭飞;张晓华;安天瑜;李丹;邵广惠;高德宾;王汉军;向勇;马煜;孟庆东;罗锋;吴奕;田长翼;安丰强;王欣;刘红叶 申请(专利权)人 中国科学院沈阳计算技术研究所有限公司
代理机构 沈阳科苑专利商标代理有限公司 代理人 许宗富
地址 110180 辽宁省沈阳市浑南新区营盘北街1号
法律状态 -

摘要

摘要 本发明涉及一种向Hbase中批量写入海量电力量测数据的方法,包括:获取采集量测数据,将获取的数据按哈希表HashMap存储,再转存为txt文件格式作为数据源存储至Hadoop分布式文件系统HDFS;结合采集量测数据在分布式列式存储数据库Hbase中建立相对应的存储模型,用于存储各个测点在监测时间点的量测数据;读取数据源进行封装行键格式,然后将封装后的数据再回写到HDFS上,以HFile的文件形式存储到HDFS指定的目录中;使用HBaseBulkLoad将生成的Hfile文件导入到分布式列式存储Hbase,实现电力数据的写入。本方法完全可以保证数据的准确性、全面性及可靠性,运行效率大大提高。