基于深度学习计算网络的硬件加速器内存分配方法及系统
基本信息
申请号 | CN202011543332.6 | 申请日 | - |
公开(公告)号 | CN112286694B | 公开(公告)日 | 2021-04-02 |
申请公布号 | CN112286694B | 申请公布日 | 2021-04-02 |
分类号 | G06F9/50(2006.01)I;G06N3/063(2006.01)I | 分类 | 计算;推算;计数; |
发明人 | 李国亮;李锐;张磊;杨勤富;钱军 | 申请(专利权)人 | 瀚博半导体(上海)有限公司 |
代理机构 | 上海市金茂律师事务所 | 代理人 | 王翠平;彭世明 |
地址 | 201210上海市浦东新区自由贸易试验区集创路200号\银东路491号1幢4楼07\08室 | ||
法律状态 | - |
摘要
摘要 | 本申请提供一种基于深度学习计算网络的硬件加速器内存分配方法及系统,所述方法及系统可以逐层为深度学习计算网络中的运算层输入信息及输出运算结果分配内存空间,确定所述深度学习计算网络需要的内存空间总数量;识别出所述深度学习计算网络中包括的第一运算层信息,并对所述第一运算层的多个输入对应分配的内存空间设置第一标记;将所述分配的内存空间分配至多个物理内存上,其中将所述第一标记信息的多个输入对应的内存空间中至少2个分配在不同的物理内存上;从而在执行具有多个输入的第一运算层,可以同时从不同的物理内存上读取所述多个输入,这样降低了运算时间,提高了运算效率。 |
