期刊文献+
共找到5篇文章
< 1 >
每页显示 20 50 100
基于Adagrad算法的LMS步长优化 被引量:1
1
作者 陈智国 王忠策 《电子制作》 2023年第14期83-86,共4页
针对LMS算法收敛速度慢、滤波误差大的问题,本文采用Adagrad算法对LMS算法进行了改进。改进的算法开始是激励收敛,然后逐渐变成惩处收敛,用此方法来改进LMS算法中收敛速度和稳态误差两者之间存在的矛盾。改进的算法在迭代步骤中使用Adag... 针对LMS算法收敛速度慢、滤波误差大的问题,本文采用Adagrad算法对LMS算法进行了改进。改进的算法开始是激励收敛,然后逐渐变成惩处收敛,用此方法来改进LMS算法中收敛速度和稳态误差两者之间存在的矛盾。改进的算法在迭代步骤中使用Adagrad算法中累积误差和的方式来更新步长代替LMS算法中的固定步长,最终改进的算法具有加速收敛和同时减少稳态误差的双重效果。 展开更多
关键词 adagrad算法 LMS算法 自适应滤波
在线阅读 下载PDF
BP神经网络算法在煤矿电气工程自动化设备预测中应用研究
2
作者 朱栋栋 朱浩 陈赞 《中文科技期刊数据库(文摘版)工程技术》 2024年第12期192-196,共5页
针对煤矿电气工程自动化设备预测过程中传统BP神经网络存在的收敛速度慢、易陷入局部最优解等问题,本文提出了一种结合Adagrad优化算法的BP神经网络改进方法。该方法通过自适应调整学习率,提高了模型对稀疏数据和不同频率特征数据的处... 针对煤矿电气工程自动化设备预测过程中传统BP神经网络存在的收敛速度慢、易陷入局部最优解等问题,本文提出了一种结合Adagrad优化算法的BP神经网络改进方法。该方法通过自适应调整学习率,提高了模型对稀疏数据和不同频率特征数据的处理能力,使得BP神经网络能够更快收敛并有效避免局部最优。实验结果表明,BP+Adagrad算法在煤矿设备状态监测中的预测精度明显高于传统BP算法,尤其在早期迭代中收敛速度更快,最终准确率稳定在约95%,而BP算法准确率则稳定在90%左右,显示出BP+Adagrad在设备监测和故障预测中的显著优势。 展开更多
关键词 BP神经网络算法 adagrad算法 煤矿 自动化设备
在线阅读 下载PDF
非光滑凸情形Adam 型算法的最优个体收敛速率 被引量:5
3
作者 黄鉴之 丁成诚 +1 位作者 陶蔚 陶卿 《智能系统学报》 CSCD 北大核心 2020年第6期1140-1146,共7页
Adam是目前深度神经网络训练中广泛采用的一种优化算法框架,同时使用了自适应步长和动量技巧,克服了SGD的一些固有缺陷。但即使对于凸优化问题,目前Adam也只是在线学习框架下给出了和梯度下降法一样的regret界,动量的加速特性并没有得... Adam是目前深度神经网络训练中广泛采用的一种优化算法框架,同时使用了自适应步长和动量技巧,克服了SGD的一些固有缺陷。但即使对于凸优化问题,目前Adam也只是在线学习框架下给出了和梯度下降法一样的regret界,动量的加速特性并没有得到体现。这里针对非光滑凸优化问题,通过巧妙选取动量和步长参数,证明了Adam的改进型具有最优的个体收敛速率,从而说明了Adam同时具有自适应和加速的优点。通过求解l_(1)范数约束下的hinge损失问题,实验验证了理论分析的正确性和在算法保持稀疏性方面的良好性能。 展开更多
关键词 机器学习 adagrad算法 RMSProp算法 动量方法 Adam算法 AMSGrad算法 个体收敛速率 稀疏性
在线阅读 下载PDF
比例风险模型下参数极大似然估计的自适应优化算法及其改进算法 被引量:2
4
作者 林文强 《数学杂志》 2020年第3期363-378,共16页
自适应优化算法可避免很多常用数值算法遭遇的困难,例如:高维矩阵求逆问题,初值选取的问题和算法的收敛问题等等.因此,自适应优化算法得到了迅速的发展和广泛的应用,本文研究了比例风险模型下的自适应优化算法.首先利用三种自适应优化算... 自适应优化算法可避免很多常用数值算法遭遇的困难,例如:高维矩阵求逆问题,初值选取的问题和算法的收敛问题等等.因此,自适应优化算法得到了迅速的发展和广泛的应用,本文研究了比例风险模型下的自适应优化算法.首先利用三种自适应优化算法-Adam算法、RMSprop算法、Adagrad算法求解比例风险模型下的参数估计数值解问题,获得了自适应算法的计算优良性.然后,推广了比例风险模型下的Adam算法的研究,发展了一种改进的Adam算法,进一步提高了算法的计算速度并展现了其计算优势. 展开更多
关键词 Adam算法 RMSprop算法 adagrad算法 比例风险模型
在线阅读 下载PDF
基于GAD-BP神经网络的短期负荷预测 被引量:12
5
作者 张丹丹 胡钢 +2 位作者 卢静 尹晓东 任其文 《电子测量技术》 2019年第24期143-147,共5页
短期负荷的精准预测可以提高配网运行的安全性、可靠性、经济性,虽然BP神经网络在数据训练和关联记忆方面具有良好应用效果,但其在短期电负荷预测领域存在局部最优解和收敛速度慢的不足。因此,提出了一种改进的BP神经网络算法,首先构建... 短期负荷的精准预测可以提高配网运行的安全性、可靠性、经济性,虽然BP神经网络在数据训练和关联记忆方面具有良好应用效果,但其在短期电负荷预测领域存在局部最优解和收敛速度慢的不足。因此,提出了一种改进的BP神经网络算法,首先构建一个全局化加速BP(globally accelerated BP,GAD-BP)神经网络模型,在模型参数预训练过程中,采用遗传算法全局寻优,通过LM算法优化初始权值。其次结合Adagrad方法逐参数除以迭代历史梯度平方根和来动态调节学习率,使其更快收敛于最优解。最后将GAD-BP与St-BP、LSTM进行仿真对比,结果表明,GAD-BP神经网络模型计算时间短,且预测精度达到了0.981 2×10-3。 展开更多
关键词 短期负荷预测 GAD-BP神经网络 遗传算法 LM算法 adagrad算法
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部