一种基于XLNet的新闻文本地域提取的方法及系统专利查询专利号|摘要-满商公司网

一种基于XLNet的新闻文本地域提取的方法及系统

基本信息

申请号	CN202011009623.7	申请日	-
公开（公告）号	CN111967267A	公开（公告）日	2022-06-21
申请公布号	CN111967267A	申请公布日	2022-06-21
分类号	G06F40/295;G06F40/289;G06F16/951;G06N3/04;G06N3/08;G06N20/00	分类	计算；推算；计数;
发明人	童逸琦;马涛;倪斌;汪姿如;庄福振	申请（专利权）人	中国科学院计算技术研究所厦门数据智能研究院
代理机构	厦门致群财富专利代理事务所（普通合伙）	代理人	刘兆庆
地址	361000 福建省厦门市软件园三期凤岐路208-3号
法律状态	-

摘要

本发明公开了一种基于XLNet的新闻文本地域提取的方法及系统，其方法包括如下步骤：S1、利用互联网上获取海量未标注生语料，输入XLNet预训练模型中进行预训练；S2、将预处理后的数据输入到步骤S1预训练好的XLNet预训练模型中进行编码，将编码后的隐状态输入到BiLSTM+CRF模型中进行识别，输出识别后的地域实体；S3、地域实体消歧；S4、地域实体汇总；S5、地域主体补全操作；其系统包括地域实体识别模块、实体拼接模块、地域消歧义模块和地域汇总模块，地域实体识别模块由XLNet预训练模型和BiLSTM+CRF模型组成。本发明的二阶段训练过程克服了现有技术存在的预训练阶段和训练阶段存在使用模式不一致的问题，解决了传统的自回归模型无法同时学习上下文信息的痛点，实现了完整建模。