首页/ 内蒙古旷视金智科技有限公司/ 专利详情

神经网络的训练方法、装置、存储介质及电子设备

基本信息

申请号 CN202010557121.1 申请日 -
公开（公告）号 CN111915004A 公开（公告）日 2020-11-10
申请公布号 CN111915004A 申请公布日 2020-11-10
分类号 G06N3/08(2006.01)I 分类 计算；推算；计数;
发明人 肖少然 申请（专利权）人 内蒙古旷视金智科技有限公司
代理机构 北京超凡宏宇专利代理事务所（特殊普通合伙） 代理人 北京迈格威科技有限公司;内蒙古旷视金智科技有限公司
地址 100000北京市海淀区科学院南路2号融科资讯中心A座316-318
法律状态 -

摘要

摘要 本申请涉及人工智能技术领域，提供一种神经网络的训练方法、装置、存储介质及电子设备。其中，训练方法包括：利用待训练的神经网络对当前批次的训练数据进行特征提取，获得当前批次的训练数据的特征；基于当前批次的训练数据的特征计算当前损失；获取在之前的训练过程中缓存的历史批次的训练数据的特征；基于当前批次的训练数据的特征以及历史批次的训练数据的特征计算历史损失；基于当前损失以及历史损失计算总损失，并基于总损失利用反向传播算法更新神经网络的参数。该方法变相增加了当前批次的训练数据的数据量，有利于改善训练得到的神经网络的性能，并且不会导致训练过程所需的计算资源显著增加。