一种渐进式的深度学习模型的超参数寻优方法
基本信息
| 申请号 | CN202111002372.4 | 申请日 | - |
| 公开（公告）号 | CN113780575A | 公开（公告）日 | 2021-12-10 |
| 申请公布号 | CN113780575A | 申请公布日 | 2021-12-10 |
| 分类号 | G06N20/00（2019.01）I | 分类 | 计算；推算；计数; |
| 发明人 | 都卫东;方志斌;王岩松;和江镇;张中信;吴健雄 | 申请（专利权）人 | 征图智能科技（江苏）有限公司 |
| 代理机构 | 常州品益专利代理事务所（普通合伙） | 代理人 | 王涵江 |
| 地址 | 211100江苏省南京市江宁区东吉大道1号（江宁开发区） | ||
| 法律状态 | - | ||
摘要
| 摘要 | 本发明涉及一种渐进式的深度学习模型的超参数寻优方法，包括：步骤一：生成多个不同的深度学习模型，并从超参数空间中为每一个模型选取一组超参数；步骤二：在训练集上训练每一个模型一定的代数，步骤三：对模型按照性能的高低从高到低进行排序；采用逐次减半的方法，保留性能排名50％之前的模型；步骤四：在保留的模型中选取部分模型对模型的超参数进行扰动；步骤五：继续在训练集上训练每一个模型一定的代数，步骤六：判断是否满足最大迭代次数，如是则保存最优的模型并终止训练至结束。采用这种逐次减半的方式训练的超参数寻优方法,有利于使用更多的资源寻优表现优异的超参数，减少了相似模型的重复训练，使模型得到更优的性能。 |
