一种基于人工智能的NLP分析识别与数据清洗方法
基本信息
申请号 | CN202210071894.8 | 申请日 | - |
公开(公告)号 | CN114626346A | 公开(公告)日 | 2022-06-14 |
申请公布号 | CN114626346A | 申请公布日 | 2022-06-14 |
分类号 | G06F40/166(2020.01)I;G06F40/169(2020.01)I;G06F40/205(2020.01)I;G06F40/279(2020.01)I | 分类 | 计算;推算;计数; |
发明人 | 荆斌华 | 申请(专利权)人 | 锦创科技股份有限公司 |
代理机构 | 北京集智东方知识产权代理有限公司 | 代理人 | - |
地址 | 210000江苏省南京市秦淮区太平南路211号九龙大厦6、11、12、13层 | ||
法律状态 | - |
摘要
摘要 | 本发明适用于数据清洗技术领域,提供了一种基于人工智能的NLP分析识别与数据清洗方法,通过NPL模块第一步唯一性检查,这样既可以去掉多余重复的数据,减轻数据处理的负担,方便后续的数据处理,又可以对重复的部分保留其权重的特点;第二步权威性检查,从而根据其权威性直接进行权重排序,方便直观的了解到重要的可信度高的数据;第三步合理性检查,这样可以对有问题的数据进行剔除,进行进一步的精选;第四步一致性检查,从而可以对数据进行分类,实现对数据的进一步精选,第五步完整性检查,从上述庞大数据中提取与缺损数据相关的内容进行补充完整,最后对主流的加权后排序的数据进行保留,其余的数据统一删除,实现快速的对数据清洗。 |
