一种基于多分支网络结构加速翻译模型训练速度的方法
基本信息
申请号 | CN202110637196.5 | 申请日 | - |
公开(公告)号 | CN113392655A | 公开(公告)日 | 2021-09-14 |
申请公布号 | CN113392655A | 申请公布日 | 2021-09-14 |
分类号 | G06F40/58(2020.01)I;G06F40/289(2020.01)I;G06N3/04(2006.01)I;G06N3/08(2006.01)I | 分类 | 计算;推算;计数; |
发明人 | 杜权;刘兴宇;徐萍 | 申请(专利权)人 | 沈阳雅译网络技术有限公司 |
代理机构 | 沈阳新科知识产权代理事务所(特殊普通合伙) | 代理人 | 李晓光 |
地址 | 110004辽宁省沈阳市和平区三好街78号东软电脑城C座11层 | ||
法律状态 | - |
摘要
摘要 | 本发明涉及一种基于多分支网络结构加速翻译模型训练速度的方法,步骤为:清洗来自公开数据集的训练数据,去除数据中包含乱码的句子,分别对双语数据进行分词、去重和平行语料的长度比过滤,得到可靠的双语数据;修改开源的翻译模型结构,构建新的多分支翻译模型;使用与翻译模型不同的训练策略对多分支翻译模型进行训练;用户向模型输入源文,多分支翻译模型使用束搜索进行模型推断,生成用户输入源文的译文。本发明更加有效地学习语料知识,在能保证模型性能的条件下,具有更快的训练速度,一定程度上缓解了传统模型训练较慢的缺陷,将多分支网络结构成功地运用在了神经机器翻译中,完备了多分支网络在神经机器翻译中的应用。 |
