一种使用LDA的文本分类筛选方法专利查询专利号|摘要-满商公司网

一种使用LDA的文本分类筛选方法

基本信息

申请号	CN202011123125.5	申请日	-
公开（公告）号	CN112667806A	公开（公告）日	2021-04-16
申请公布号	CN112667806A	申请公布日	2021-04-16
分类号	G06F16/35;G06F16/335;G06F16/31;G06F40/211;G06F40/216;G06F40/242;G06F40/30;G06K9/62;G06N20/00	分类	计算；推算；计数;
发明人	赵博;吕建文;周兴晖;陈力;薛柔月;金鑫;蒋尚秀	申请（专利权）人	上海金桥信息股份有限公司
代理机构	北京科迪生专利代理有限责任公司	代理人	张乾桢
地址	200234 上海市徐汇区田林路487号25号楼
法律状态	-

摘要

本发明提出了一种使用了LDA的文本分类筛选方法，包括：获取一个数据集，内容包括多个短句；使用自然语言处理方法，对数据进行预处理，以及进行清洗和整理；确定一个主题，人工选择若干符合主题的文本句子；用所述选择的文本句子，使用词袋模型建立对应文本向量矩阵；用所述向量矩阵去训练第一LDA模型；用所述第一LDA模型筛选文本中剩余的句子，计算该文本集合与第一LDA主题计算所得到的多个话题词之间的相关性，并以此作为评价一个句子是否满足选定主题模型的阈值；加入通过话题相关性筛选的文本，再训练第二LDA模型；用所述第二LDA模型，对文本中剩余的句子再用余弦相似去判断和筛选；将所述总共三次筛选的句子作为符合筛选目标的文本数据。