一种基于辅助表示融合的非自回归神经机器翻译方法
基本信息
申请号 | CN202110592517.4 | 申请日 | - |
公开(公告)号 | CN113378584A | 公开(公告)日 | 2021-09-10 |
申请公布号 | CN113378584A | 申请公布日 | 2021-09-10 |
分类号 | G06F40/58(2020.01)I;G06N3/04(2006.01)I;G06N3/08(2006.01)I | 分类 | 计算;推算;计数; |
发明人 | 杜权;刘兴宇 | 申请(专利权)人 | 沈阳雅译网络技术有限公司 |
代理机构 | 沈阳新科知识产权代理事务所(特殊普通合伙) | 代理人 | 李晓光 |
地址 | 110004辽宁省沈阳市和平区三好街78号东软电脑城C座11层 | ||
法律状态 | - |
摘要
摘要 | 本发明公开一种基于辅助表示融合的非自回归神经机器翻译方法,步骤为:构造自回归神经机器翻译模型;构建训练平行语料,训练一个只有一层解码器的模型;构造非自回归神经机器翻译模型;将自回归神经机器翻译模型解码器最顶层的前馈神经网络后的输出与非自回归神经机器翻译模型编码器的顶层表示进行加权融合,作为非自回归神经机器翻译模型解码器的输入;编码器提取源语句子信息,解码器根据该源语句子信息来预测对应的目标语句子;完成非自回归神经机器翻译模型的训练;将源语句子送入非自回归神经机器翻译模型中,解码出不同长度的翻译结果。本发明结合自回归模型和非自回归模型的优点,在损失了较小性能的情况下,能够获得7~9倍的速度提升。 |
