一种阅读理解模型训练数据的过滤方法及装置

基本信息

申请号 CN201811644614.8 申请日 -
公开(公告)号 CN109766424B 公开(公告)日 2021-11-19
申请公布号 CN109766424B 申请公布日 2021-11-19
分类号 G06F16/332(2019.01)I;G06F16/33(2019.01)I;G06F16/35(2019.01)I 分类 计算;推算;计数;
发明人 李健铨;刘小康;晋耀红 申请(专利权)人 安徽省泰岳祥升软件有限公司
代理机构 北京弘权知识产权代理有限公司 代理人 逯长明;许伟群
地址 230088安徽省合肥市高新区习友路3333号中国(合肥)国际智能语音产业园研发中心楼405-5室
法律状态 -

摘要

摘要 本申请公开一种阅读理解模型训练数据的过滤方法及装置,首先获取输入文本,将输入文本表示为包含词汇共现信息和位置编码信息的第二词向量;其次根据输入文本的注意力对第二词向量进行加权;对第二词向量的加权结果进行归一化处理生成第一输出矩阵;再对第一输出矩阵进行全连接的线性变换处理并进行归一化处理,生成第二输出矩阵;然后根据第二输出矩阵生成低维特征向量;最后对低维特征向量进行归一化处理,得到所述答案与所述查询语句的匹配度;根据预设的过滤条件过滤所述匹配度相应的输入文本。本申请方法按照答案与查询语句的匹配度对阅读理解模型训练数据进行过滤,优化训练数据,剔除错误数据,有利于提升模型性能。