一种低延迟的机器学习即服务的生成方法
基本信息
| 申请号 | CN201910796537.6 | 申请日 | - |
| 公开（公告）号 | CN110490334A | 公开（公告）日 | 2019-11-22 |
| 申请公布号 | CN110490334A | 申请公布日 | 2019-11-22 |
| 分类号 | G06N20/00（2019.01）; G06F17/50（2006.01）; G06K9/62（2006.01）; G06N3/08（2006.01） | 分类 | 计算；推算；计数; |
| 发明人 | 李攀登 | 申请（专利权）人 | 上海丙晟科技有限公司 |
| 代理机构 | 北京盛凡智荣知识产权代理有限公司 | 代理人 | 上海丙晟科技有限公司 |
| 地址 | 200040 上海市静安区灵石路718号A5幢101室 | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明公开了一种低延迟的机器学习即服务的生成方法，模型抽象层提供了一个通用的API，可以抽象出现有机器学习框架和模型的异构性；模型参数寻优层位于模型抽象层的上方，负责动态选择、组合和优化预测模型的参数；模型管理层通过模型存储层的信息对模型进行管理，以实现应用端可以动态并无感知的情况下获取最优的预测服务；事件服务层，这层负责与应用端交互，并存储应用端用户请求的信息，反馈给模型层，以实现动态自动优化模型参数；模型监测层负责对上线模型服务的调用监测，以及时发现调用过程中出现的问题，提高模型运维的透明性。降低现有预测服务栈的复杂性，并实现预测服务的低延迟、高吞吐量、模型准确性等关键属性。 |
