一种softmax函数的硬件实现方法、模块、芯片和系统

基本信息

申请号 CN202110791019.2 申请日 -
公开(公告)号 CN113407793A 公开(公告)日 2021-09-17
申请公布号 CN113407793A 申请公布日 2021-09-17
分类号 G06F16/903(2019.01)I;G06F16/906(2019.01)I;G06F17/15(2006.01)I;G06N3/04(2006.01)I;G06N3/08(2006.01)I 分类 计算;推算;计数;
发明人 李丽;张永刚;陈辉;傅玉祥;何书专;陈健 申请(专利权)人 南京宁麒智能计算芯片研究院有限公司
代理机构 江苏瑞途律师事务所 代理人 金龙;计璐
地址 210000江苏省南京市江宁区麒麟科技创新园智汇路300号B单元二楼
法律状态 -

摘要

摘要 本发明公开一种softmax函数的硬件实现方法、模块、芯片和系统,属于神经网络多任务分类激活函数的硬件实现技术领域。基于现有技术softmax激活函数的硬件中难以实现的e指数操作和除法操作,硬件实现性能不高等问题,本发明对softmax函数进行变换,在硬件系统构建主控器模块、数据输入模块、计算模块和数据输出模块,在计算模块使用比较、减法、数据分割、移位求和、镜像查找等方法,实现E‑to‑2softmax函数。本发明首先理论分析了E‑to‑2softmax函数的可行性,然后详细介绍函数的硬件实现部分,在硬件实现上避免了softmax函数的e指数运算和除法操作,节省硬件资源,硬件友好性强,具有性能高、复杂度低等特点。