BERT模型的优化方法及系统、电子设备及存储介质
基本信息
| 申请号 | CN202011517527.3 | 申请日 | - |
| 公开（公告）号 | CN112506523A | 公开（公告）日 | 2021-03-16 |
| 申请公布号 | CN112506523A | 申请公布日 | 2021-03-16 |
| 分类号 | G06F8/41(2018.01)I;G06N3/04(2006.01)I;G06F17/16(2006.01)I | 分类 | 计算；推算；计数; |
| 发明人 | 周姗;周健倩;李健 | 申请（专利权）人 | 上海携旅信息技术有限公司 |
| 代理机构 | 上海弼兴律师事务所 | 代理人 | 杨东明;张冉 |
| 地址 | 201803上海市嘉定区金园一路1331号401室-4 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明公开了一种BERT模型的优化方法及系统、电子设备及存储介质，提供了一种BERT模型的优化方法，所述优化方法包括：将所述BERT模型每个层包含的所有算子分别合并为一个对应的层算子，所述层算子的数量和所述BERT模型的层数相同；每个层算子分别用于所述BERT模型中对应层的运算。本发明通过对BERT模型的各个层进行算子融合处理优化了模型处理处理过程，在不改变模型结构和模型精度的前提下加快了模型的推理速度，提高了BERT模型的处理效率。 |
