使用外积单元的原生张量处理器
基本信息
申请号 | CN201810444568.0 | 申请日 | - |
公开(公告)号 | CN108875958B | 公开(公告)日 | 2020-02-18 |
申请公布号 | CN108875958B | 申请公布日 | 2020-02-18 |
分类号 | G06N20/00;G06F15/76 | 分类 | 计算;推算;计数; |
发明人 | 吕坚平;邓宇轩 | 申请(专利权)人 | 广州异构智能科技有限公司 |
代理机构 | 广州华进联合专利商标代理有限公司 | 代理人 | 广州异构智能科技有限公司 |
地址 | 511458 广东省广州市南沙区丰泽东路106号(自编1号楼)X1301-A4048 | ||
法律状态 | - |
摘要
摘要 | 原生张量处理器使用外积之和计算张量缩并。在一种实现中,原生张量处理器优选地被实现为单一集成电路,并且包括输入缓冲器和缩并引擎。输入缓冲器缓冲从片外检索的张量元素,并根据需要将元素传输到缩并引擎。缩并引擎通过执行来自等价矩阵乘法的计算来计算张量缩并,就好像张量被展开成矩阵一样,但避免了明确展开张量的开销。缩并引擎包括多个外积单元,多个外积单元通过外积之和计算矩阵乘法。通过使用外积,等价矩阵乘法可以被分割成更小的矩阵乘法,这些更小的矩阵乘法在所需的局部张量间进行。 |
