一种单机的大规模数据集的聚类挖掘方法

基本信息

申请号 CN201510163967.6 申请日 -
公开(公告)号 CN104731968B 公开(公告)日 2018-06-19
申请公布号 CN104731968B 申请公布日 2018-06-19
分类号 G06F17/30 分类 计算;推算;计数;
发明人 范仕良;张雪洁;骆融臻 申请(专利权)人 江苏爱星信息科技有限公司
代理机构 南京苏高专利商标事务所(普通合伙) 代理人 河海大学;江苏爱星信息科技有限公司
地址 211100 江苏省南京市江宁区佛城西路8号
法律状态 -

摘要

摘要 本发明公开了一种单机的大规模数据集的聚类挖掘方法,主要包含三个步骤:一是解决读取大规模数据集时容易发生的内存泄露问题;二是充分利用硬件优势以及“分而治之”的算法思想将大数据问题转化为容易解决的小数据问题;三是基于聚类挖掘算法构建适当的挖掘模型,依次完成小数据的聚类挖掘工作,最后将各挖掘结果进行合并得到最终结果。该发明公开的方法通过设计存储方式、扩展虚拟设备等方式有效地解决了大数据挖掘时常见的内存限制和运行效率的问题,实现了在不利用网络集群的情况下,于一台独立正常工作的物理机上完成GB规模数据集的聚类挖掘工作。