一种基于边缘设备的分布式神经网络训练系统

基本信息

申请号 CN202110544084.5 申请日 -
公开(公告)号 CN113282411B 公开(公告)日 2022-03-22
申请公布号 CN113282411B 申请公布日 2022-03-22
分类号 G06F9/50(2006.01)I;G06N3/063(2006.01)I;G06N3/08(2006.01)I 分类 计算;推算;计数;
发明人 黄镔;蔡嘉伟;金怡;郑立荣;邹卓;环宇翔;梁龙飞 申请(专利权)人 上海新氦类脑智能科技有限公司
代理机构 无锡经诚知识产权代理事务所(普通合伙) 代理人 丁雨燕
地址 200000上海市杨浦区邯郸路220号
法律状态 -

摘要

摘要 本发明涉及人工智能技术领域,具体是一种基于边缘设备的分布式神经网络训练系统,通过IoT边缘设备进行分布式联合训练的方式,以实现对边缘端产生的海量数据进行有效利用的功能;通过对Parameter Server分布式架构下机器学习分布式训练的设备优化组网配置进行以各设备间性能、带宽进行综合配比实现最优配置;通过对训练任务的模型大小、各设备性能和带宽之间进行优化分配,确定目前能最大发挥设备群性能的配置。本发明提供的方法不仅实现了将神经网络训练部署至IoT领域,同时对分布式组网任务配置方面进行了优化,有效地避免了集群间不必要的性能损耗,提高了分布式训练系统的计算性能。