首页/ 南京三百云信息科技有限公司/ 专利详情

NLP模型优化方法、装置以及计算机设备

基本信息

申请号 CN202010756900.4 申请日 -
公开（公告）号 CN111859904A 公开（公告）日 2020-10-30
申请公布号 CN111859904A 申请公布日 2020-10-30
分类号 G06F40/205(2020.01)I 分类 计算；推算；计数;
发明人 陈喜旺;章水鑫 申请（专利权）人 南京三百云信息科技有限公司
代理机构 北京超凡宏宇专利代理事务所（特殊普通合伙） 代理人 南京三百云信息科技有限公司
地址 210000江苏省南京市鼓楼区古平岗4号C座6层
法律状态 -

摘要

摘要 本申请提供了一种NLP模型优化方法、装置以及计算机设备，涉及神经网络模型技术领域，缓解了目前的NLP模型的预测速度较慢的技术问题。该方法包括：获取待优化NLP模型；通过对所述待优化NLP模型进行剪枝处理，建立所述待优化NLP模型的稀疏化模型；对所述稀疏化模型进行量化处理，得到所述稀疏化模型的压缩后模型；对所述压缩后模型的部分代码转换为预设语言代码，并基于代码转换后的模型进行编译，得到编译后模型；所述预设语言代码的运行速度大于所述部分代码的运行速度；通过异步处理方式对所述编译后模型部署FastAPI，得到优化后的NLP模型。