一种在驱动中直连分片实现分布式数据库数据导入的高性能方法

基本信息

申请号 CN201510755541.X 申请日 -
公开(公告)号 CN106649418A 公开(公告)日 2017-05-10
申请公布号 CN106649418A 申请公布日 2017-05-10
分类号 G06F17/30(2006.01)I 分类 计算;推算;计数;
发明人 不公告发明人 申请(专利权)人 江苏引跑网络科技有限公司
代理机构 - 代理人 -
地址 211100 江苏省南京市江宁开发区将军大道37号翠屏科创园3层1306室
法律状态 -

摘要

摘要 本发明公开了一种驱动中直连分片实现分布式数据库数据导入的高性能方法。其方法阐述了一个算法实现,包括在数据库驱动中集成分片算法,绕开主控节点直接连接各分片节点;对各分片待执行SQL建立阻塞队列,对SQL重新规划批次,按批次提交到分片节点,写入数据;提供性能优先与数据安全优先两种分片同步方式。本发明阐述的方法通过绕开传统的主控节点,直连分片节点,将现有的单步执行SQL转换成并行在各分片中按批次执行SQL,整个过程减少了中间处理、传输环节,大大减轻了网络负载,提高了网络利用率,充分地挖掘利用了各分布式节点的物理资源,从而在分布式数据库数据导入的场景中显著提升了导入性能。