一种特大LOB数据高并发低延迟的更新访问方法

基本信息

申请号 CN202010499819.2 申请日 -
公开(公告)号 CN111694847A 公开(公告)日 2020-09-22
申请公布号 CN111694847A 申请公布日 2020-09-22
分类号 G06F16/22(2019.01)I 分类 计算;推算;计数;
发明人 冀贤亮;王效忠;刘明;何振兴;苏锦佩 申请(专利权)人 贵州易鲸捷信息技术有限公司
代理机构 天津企兴智财知识产权代理有限公司 代理人 马倩倩
地址 550000贵州省贵阳市贵阳综合保税区都拉营综保路349号海关大楼8楼801
法律状态 -

摘要

摘要 本发明提供了一种特大LOB数据高并发低延迟的更新访问方法,包括如下内容:1)创建用户表时,为每个LOB列创建至少一个HDFS文件,用于存储LOB数据;2)针对每个LOB列,创建一个SQL分区表;3)当LOB值小于等于预设的第一阀值时,分割成多行直接存储到SQL分区表中以及相关的元信息;当LOB值大于第一阀值时则存储到HDFS文件中,SQL分区表则用于保存LOB数据存储在HDFS文件中产生的元数据。本发明将分布式文件系统的高吞吐特性和分布式SQL表的低延迟以及ACID特性巧妙的结合起来,采用记录少量Delta数据以及SQL表常驻内存特性来提高更新的性能,并把耗时的操作比如I/O等从用户发起的事务中剥离出来。