一种基于远程日志备份的 HBase 数据可用性及持久性的方法

基本信息

申请号 CN201410095611.9 申请日 -
公开(公告)号 CN103870570B 公开(公告)日 2018-04-27
申请公布号 CN103870570B 申请公布日 2018-04-27
分类号 G06F17/30;G06F11/14;G06F11/34 分类 计算;推算;计数;
发明人 杨峰;陈宁昕;孙晓燕;周学海;唐长城;谢飞;赵伟;李政 申请(专利权)人 上海艾讯云计算有限公司
代理机构 广州圣理华知识产权代理有限公司 代理人 上海艾讯云计算有限公司
地址 201499 上海市奉贤区望园路2165弄11号226室
法律状态 -

摘要

摘要 本发明公开了一种基于远程日志备份的HBase数据可用性及持久性的方法,HBase的数据节点写入时,首先通过分布式系统封装日志记录,并通过网络把日志备份到预先指定的远程节点,保证数据的可用性和持久性,并以此为基础,把大量用户数据和日志记录暂存在内存中,减少数据处理过程中的数据持久化进程;当HBase的数据节点处于空闲的时候,主动把内存中的数据持久化到文件系统,减轻内存存储压力,减少写操作过程中发生持久化进程的频率,提高数据写入的时间性能。这种基于远程日志备份的HBase数据可用性及持久性的方法保证了数据的可用性、持久性,大大提高数据写入速度、提高系统性能。