基于注意力机制的联合学习方法、装置、计算机设备及计算机可读存储介质

基本信息

申请号 CN202110778808.2 申请日 -
公开(公告)号 CN113487040A 公开(公告)日 2021-10-08
申请公布号 CN113487040A 申请公布日 2021-10-08
分类号 G06N20/00(2019.01)I;G06F16/215(2019.01)I;G06K9/62(2006.01)I 分类 计算;推算;计数;
发明人 谢龙飞;马国良 申请(专利权)人 新智数字科技有限公司
代理机构 北京嘉科知识产权代理事务所(特殊普通合伙) 代理人 张艳
地址 065000河北省廊坊市经济开发区华祥路0388丘一幢一楼105室
法律状态 -

摘要

摘要 本发明提供了一种基于注意力机制的联合学习方法、装置、计算机设备及计算机可读存储介质。该方法包括:接收参与方上传的多个参与方模型;根据参与方模型,分别确定查询参数矩阵和关键值矩阵;确定每一个查询参数矩阵与多个关键值矩阵之间的差异度;利用差异度,对参与方模型进行本地更新,以得到新的参与方模型。以解决在联合学习中,各方数据相互割裂,难以直接度量数据之间的具体差异,而导致数据分配不均的问题。