命名实体识别数据增强的方法、装置、电子设备和介质

基本信息

申请号 CN202110820558.4 申请日 -
公开(公告)号 CN113516196A 公开(公告)日 2021-10-19
申请公布号 CN113516196A 申请公布日 2021-10-19
分类号 G06K9/62(2006.01)I;G06F40/295(2020.01)I 分类 计算;推算;计数;
发明人 单波;罗杰;魏文轩;徐森;何亮;张勇 申请(专利权)人 云知声智能科技股份有限公司
代理机构 - 代理人 -
地址 100096北京市海淀区西三旗建材城内1幢一层101号
法律状态 -

摘要

摘要 本发明涉及命名实体识别数据增强的方法、装置、电子设备和介质,该方法包括:获取第一数据集,将第一数据集进行扩充得到扩充数据集,将扩充数据集分为第一份扩充数据集和第二份扩充数据集;将第一份扩充数据集输入到BERT模型中得到句向量数据集;对句向量数据集聚类得到聚类结果;对聚类结果对抗训练确定簇数据集;使用GPT模型微调簇数据集得到第二数据集;使用第二数据集训练GPT模型得到预测模型;将第二份扩充数据集输入到预测模型中得到预测结果数据集;将预测结果数据集中的命名实体标签通配符替换为实体词典中的文字,确定第三数据集;将第三数据集与第一数据集合并得到最终的数据集。本申请实施例采用数据增强的方式可以减小所需要的数据量。