一种特大LOB数据高并发低延迟的更新访问方法
基本信息
申请号 | CN202010499819.2 | 申请日 | - |
公开(公告)号 | CN111694847A | 公开(公告)日 | 2020-09-22 |
申请公布号 | CN111694847A | 申请公布日 | 2020-09-22 |
分类号 | G06F16/22(2019.01)I | 分类 | 计算;推算;计数; |
发明人 | 冀贤亮;王效忠;刘明;何振兴;苏锦佩 | 申请(专利权)人 | 贵州易鲸捷信息技术有限公司 |
代理机构 | 天津企兴智财知识产权代理有限公司 | 代理人 | 马倩倩 |
地址 | 550000贵州省贵阳市贵阳综合保税区都拉营综保路349号海关大楼8楼801 | ||
法律状态 | - |
摘要
摘要 | 本发明提供了一种特大LOB数据高并发低延迟的更新访问方法,包括如下内容:1)创建用户表时,为每个LOB列创建至少一个HDFS文件,用于存储LOB数据;2)针对每个LOB列,创建一个SQL分区表;3)当LOB值小于等于预设的第一阀值时,分割成多行直接存储到SQL分区表中以及相关的元信息;当LOB值大于第一阀值时则存储到HDFS文件中,SQL分区表则用于保存LOB数据存储在HDFS文件中产生的元数据。本发明将分布式文件系统的高吞吐特性和分布式SQL表的低延迟以及ACID特性巧妙的结合起来,采用记录少量Delta数据以及SQL表常驻内存特性来提高更新的性能,并把耗时的操作比如I/O等从用户发起的事务中剥离出来。 |
