一种高效的深度学习后端模型部署框架
基本信息
申请号 | CN202010041804.1 | 申请日 | - |
公开(公告)号 | CN111209013A | 公开(公告)日 | 2020-05-29 |
申请公布号 | CN111209013A | 申请公布日 | 2020-05-29 |
分类号 | G06F8/60;G06N20/00 | 分类 | 计算;推算;计数; |
发明人 | 陈磊;隆昌荣;王亮 | 申请(专利权)人 | 深圳市守行智能科技有限公司 |
代理机构 | 沧州市宏科专利代理事务所(普通合伙) | 代理人 | 深圳市守行智能科技有限公司 |
地址 | 518000 广东省深圳市宝安区西乡街道劳动社区宝源路1065号F518时尚创意园F4栋F4-309 | ||
法律状态 | - |
摘要
摘要 | 本发明涉及人工智能模型的技术领域,特别是涉及一种高效的深度学习后端模型部署框架,以当前市面上最优的算法作为基础,以算法库文件为纽带,实现了深度学习模型由python端部署至服务器的功能,开发人员只需要根据自己的模型部署到任何服务器,降低了深度学习模型部署的难度,提高了开发人员的工作效率以及深度学习模型算法的落地能力,模型部署采用onnx文件,当模型网络结构发生变化时,只需要相应的修改onnx文件即可完成重新部署;包括算法模块、优化模块、转换模块、加速模块、算法库模块和部署模块,算法模块、优化模块、转换模块、加速模块、算法库模块和部署模块为呈金字塔结构的关系,算法模块为框架提供基础的算法。 |
