以图形处理器为执行核心的推理方法和装置

基本信息

申请号 CN202110874284.7 申请日 -
公开(公告)号 CN113487033A 公开(公告)日 2021-10-08
申请公布号 CN113487033A 申请公布日 2021-10-08
分类号 G06N5/04(2006.01)I;G06T1/20(2006.01)I 分类 计算;推算;计数;
发明人 不公告发明人 申请(专利权)人 上海壁仞智能科技有限公司
代理机构 北京市柳沈律师事务所 代理人 彭久云
地址 201100上海市闵行区陈行公路2388号16幢13层1302室
法律状态 -

摘要

摘要 本发明涉及一种以图形处理器为执行核心的推理方法和装置,其中该推理方法包括:图形处理器依据网络接口控制器提供的推理命令从非易失性存储空间调用和执行模型的代码,用以对所述网络接口控制器提供的原始数据进行并行计算以生成计算结果;统合所述计算结果以生成推理结果;以及回复所述推理结果给所述网络接口控制器。通过以上述图形处理器为核心的方式来统合网络接口控制器来完成推理操作,可以不再需要中央处理器的参与。