专利名称:神经网络模型训练方法、装置、计算机设备及存储
介质
专利类型:发明专利发明人:李
申请号:CN2020112259.8申请日:20201105公开号:CN112183750A公开日:20210105
摘要:本发明实施例提供了一种神经网络模型训练方法。在对神经网络模型进行每一训练步数的训练后,根据当前步数的当前权重、样本数据、目标值及梯度算法计算梯度;根据第一参数、在上一步数的一阶矩估计、梯度、一阶矩估计公式及一阶矩估计修正公式计算修正一阶矩估计;根据第二参数、在上一步数的二阶矩估计、梯度、二矩估计公式、二阶矩估计修正公式计算修正二阶矩估计;根据修正一阶矩估计、修正二阶矩估计及系数修正公式计算修正系数;根据当前权重、修正系数、第三参数、当前学习率及学习率修正公式计算在下一步数的修正学习率;根据当前权重、修正学习率、修正系数、第三参数及权重公式计算得到模型更新后的权重。本实施例可以提高模型训练效率。
申请人:平安科技(深圳)有限公司
地址:518000 广东省深圳市福田区福田街道福安社区益田路5033号平安金融中心23楼
国籍:CN
代理机构:北京英特普罗知识产权代理有限公司
更多信息请下载全文后查看
因篇幅问题不能全部显示,请点此查看更多更全内容
Copyright © 2019- oldu.cn 版权所有 浙ICP备2024123271号-1
违法及侵权请联系:TEL:199 1889 7713 E-MAIL:2724546146@qq.com
本站由北京市万商天勤律师事务所王兴未律师提供法律服务