基于TensorRT加速深度学习图像识别的方法、装置及介质

基本信息

申请号 CN202011206759.7 申请日 -
公开(公告)号 CN112364744A 公开(公告)日 2021-02-12
申请公布号 CN112364744A 申请公布日 2021-02-12
分类号 G06K9/00(2006.01)I; 分类 计算;推算;计数;
发明人 李伟;李翔;汪凡;车志宏;谭必文 申请(专利权)人 珠海市卓轩科技有限公司
代理机构 广州嘉权专利商标事务所有限公司 代理人 叶琦炜
地址 519000广东省珠海市横琴新区宝华路6号105室
法律状态 -

摘要

摘要 本发明涉及一种基于TensorRT加速深度学习图像识别的方法、装置及介质的技术方案,包括:配置用于运行TensorRT的数据、模型及环境;将模型转换为ONNX格式;通过TensorRT对ONNX格式的模型分别生成多计算模式运算的TensorRT引擎文件;输入用于检测的多张人脸照片,通过MTCNN网络对人脸照片进行人脸检测,输出检测列表;将检测列表中的人脸照片通过包括有TensorRT的多种加速深度学习图像识别的推理计算,分别推理计算人脸照片的向量、时间及距离,选取加速效果最优的TensorRT加速计算模式。本发明的有益效果为:保持原有精确率几乎无损的情况下,同时也提升了GPU服务器的资源利用率,降低了业务升级和维护方面的人力及物力。