语料扩展方法、装置、设备及介质
基本信息
申请号 | CN202010353893.3 | 申请日 | - |
公开(公告)号 | CN111241813B | 公开(公告)日 | 2020-06-05 |
申请公布号 | CN111241813B | 申请公布日 | 2020-06-05 |
分类号 | G06F40/216(2020.01)I; | 分类 | 计算;推算;计数; |
发明人 | 周一竞;燕鹏举 | 申请(专利权)人 | 杭州博盾习言科技有限公司 |
代理机构 | 杭州创智卓英知识产权代理事务所(普通合伙) | 代理人 | 张迪 |
地址 | 311121 浙江省杭州市余杭区五常街道文一西路998号18幢210室 | ||
法律状态 | - |
摘要
摘要 | 本发明公开了一种语料扩展方法,涉及机器学习技术领域,用于解决现有语料匮乏的情况,该方法包括以下步骤:S110、接收待分析文本及语料池数据,对所述待分析文本及所述语料池数据进行预处理;S120、将所述待分析文本分为种子文本和测试文本;S130、当所述种子文本数量大于预设数量时,通过困惑度ppl筛选出扩展语料;当所述种子文本数量小于或等于预设数量时,通过相似度距离筛选出扩展语料;S140、将所述扩展语料加入到所述种子文本,并执行S130‑S140步骤。本发明还公开了一种语料扩展装置、电子设备和计算机存储介质。本发明通过对语料进行筛选,并将筛选出的语料与种子文本合并,进而扩展种子文本的语料量。 |
