一种基于多重弱监督集成的短文本分类方法
基本信息
申请号 | CN202010211121.6 | 申请日 | - |
公开(公告)号 | CN111444342A | 公开(公告)日 | 2021-12-10 |
申请公布号 | CN111444342A | 申请公布日 | 2021-12-10 |
分类号 | G06F16/35;G06F40/279;G06F40/289 | 分类 | 计算;推算;计数; |
发明人 | 修保新 | 申请(专利权)人 | 湖南董因信息技术有限公司 |
代理机构 | 北京律诚同业知识产权代理有限公司 | 代理人 | 祁建国 |
地址 | 410073 湖南省长沙市开福区金马路377号 | ||
法律状态 | - |
摘要
摘要 | 本发明公开了一种基于多重弱监督集成的短文本分类方法,包括:获取原始数据集和知识库,并进行数据预处理;对预处理后的数据进行知识抽取;将抽取的知识表示为标注函数,并用于数据标注;通过条件独立模型,进行标签集成;基于全连接神经网络,训练分类模型;对所述分类模型进行评估及优化,获得最优模型;利用最优模型进行短文本分类。本发明基于多重弱监督集成的短文本分类方法:利用关键词匹配、正则表达式和远监督聚类相结合的方式,完整表达了显性知识和隐性知识;借助标签集成机制产生的概率标签,不仅实现了无标签数据的自动化标注,缓解了短文本的数据稀疏问题,而且有效解决了短文本的不平衡分类问题。 |
