一种大规模深度学习推断的分布式系统
基本信息
| 申请号 | CN202111389422.9 | 申请日 | - |
| 公开（公告）号 | CN114154638A | 公开（公告）日 | 2022-03-08 |
| 申请公布号 | CN114154638A | 申请公布日 | 2022-03-08 |
| 分类号 | G06N5/04（2006.01）I | 分类 | 计算；推算；计数; |
| 发明人 | 王孝栋;曾成;张晶 | 申请（专利权）人 | 长园视觉科技（珠海）有限公司 |
| 代理机构 | 广州市红荔专利代理有限公司 | 代理人 | 王贤义 |
| 地址 | 519000 广东省珠海市高新区唐家湾镇科技八路9号（1号厂房）四楼B区401室 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明旨在提供一种采用队列将任务分步解耦，进而提高后端检测线程稳定性以及解决系统高并发问题的大规模深度学习推断的分布式系统。本发明包括服务层、工作流层以及基础设施层，服务层包含推断逻辑业务块、模型训练业务块以及公共业务块，推断逻辑业务块承担系统进行推断判定的业务逻辑，模型训练业务块承担系统训练的业务逻辑，公共业务块承担推断逻辑业务块和模型训练业务块的公用逻辑；工作流层包含若干接入点以及若干检测管道，接入点提供设备所需接入协议的接入端口，检测管道执行检测并将结果返回；基础设施层用于提供服务层所需的基础服务。本发明应用于计算平台系统的技术领域。 |
