基于注意力机制的联合学习方法、装置、计算机设备及计算机可读存储介质
基本信息
申请号 | CN202110778808.2 | 申请日 | - |
公开(公告)号 | CN113487040A | 公开(公告)日 | 2021-10-08 |
申请公布号 | CN113487040A | 申请公布日 | 2021-10-08 |
分类号 | G06N20/00(2019.01)I;G06F16/215(2019.01)I;G06K9/62(2006.01)I | 分类 | 计算;推算;计数; |
发明人 | 谢龙飞;马国良 | 申请(专利权)人 | 新智数字科技有限公司 |
代理机构 | 北京嘉科知识产权代理事务所(特殊普通合伙) | 代理人 | 张艳 |
地址 | 065000河北省廊坊市经济开发区华祥路0388丘一幢一楼105室 | ||
法律状态 | - |
摘要
摘要 | 本发明提供了一种基于注意力机制的联合学习方法、装置、计算机设备及计算机可读存储介质。该方法包括:接收参与方上传的多个参与方模型;根据参与方模型,分别确定查询参数矩阵和关键值矩阵;确定每一个查询参数矩阵与多个关键值矩阵之间的差异度;利用差异度,对参与方模型进行本地更新,以得到新的参与方模型。以解决在联合学习中,各方数据相互割裂,难以直接度量数据之间的具体差异,而导致数据分配不均的问题。 |
