基于去趋势多重互相关的深度回声状态网络剪枝算法

1

作者 孙晓川 王宇 +1 位作者 李莹琦 黄天宇 《郑州大学学报（工学版）》 CAS 北大核心 2024年第4期38-45,共8页

针对储备池中存在的冗余结构导致深度回声状态网络预测精度不佳的问题,提出了一种基于去趋势多重互相关的深度回声状态网络剪枝算法。首先,根据去趋势协方差函数和去趋势方差函数,依次计算所选储备池中每2个神经元之间的去趋势互相关系... 针对储备池中存在的冗余结构导致深度回声状态网络预测精度不佳的问题,提出了一种基于去趋势多重互相关的深度回声状态网络剪枝算法。首先,根据去趋势协方差函数和去趋势方差函数,依次计算所选储备池中每2个神经元之间的去趋势互相关系数,构建去趋势互相关矩阵,基于该矩阵评估该储备池中所选神经元与所有剩余神经元之间的去趋势多重互相关性。其次,依次删除每个储备池中高相关性神经元到输出层的连接,从而去除网络中的冗余结构。最后,通过最小二乘回归重新训练剪枝后的网络,以获得最优的深度回声状态网络拓扑结构。仿真结果表明:经过所提算法优化后的深度回声状态网络在Mackey-Glass时间序列上的预测精度和记忆能力分别提高了89.80%和30.93%,在Call时间序列上的预测精度和记忆能力分别提高了14.34%和0.10%。 展开更多

关键词 深度回声状态网络 结构优化 剪枝 去趋势多重互相关 时间序列预测

在线阅读 下载PDF 职称材料

多函数激活的拉普拉斯深度回声状态网络

2

作者 廖永波 李红梅 《计算机应用研究》 CSCD 北大核心 2020年第9期2591-2594,2624,共5页

结合可变激活函数、降维算法和深度回声状态网络,针对新的神经网络模型进行了研究。其中可变激活函数是多函数的线性组合,可以通过调整系数来改变激活函数的非饱和区;拉普拉斯特征映射降维算法通过降低储层状态矩阵的维度来改善原网络... 结合可变激活函数、降维算法和深度回声状态网络,针对新的神经网络模型进行了研究。其中可变激活函数是多函数的线性组合,可以通过调整系数来改变激活函数的非饱和区;拉普拉斯特征映射降维算法通过降低储层状态矩阵的维度来改善原网络面临的病态、不适定问题;还使用了遗传算法来寻找最佳目标子空间维度。仿真分析从扰动影响、转换稳定性、时序预测和记忆容量四个方面进行,从仿真结果(新模型的记忆容量是深度回声状态网络的两倍,均方根误差比回声状态网络小42%)来看,新模型的记忆容量、预测精度都得到了显著改善。 展开更多

关键词 深度回声状态网络 激活函数 拉普拉斯特征映射 遗传算法

在线阅读 下载PDF 职称材料

深度回声状态网络概述 被引量：2

3

作者 程国建 魏珺洁 《电子科技》 2018年第8期92-95,共4页

作为一种递归神经网络,回声状态网络凭借其简单的训练过程和独特的储备池结构受到广泛关注,目前已经应用于时间序列预测、非线性系统识别、定量预测等领域。然而回声状态网络也存在一些不足,例如储备池的优化问题、共线性问题等。许多... 作为一种递归神经网络,回声状态网络凭借其简单的训练过程和独特的储备池结构受到广泛关注,目前已经应用于时间序列预测、非线性系统识别、定量预测等领域。然而回声状态网络也存在一些不足,例如储备池的优化问题、共线性问题等。许多研究学者尝试着优化回声状态网络的结构和性能,文中介绍的深度回声状态网络增加了特征链接和编码器,并且多次交替使用储备池和编码器来进行投影编码,改进了回声状态网络的性能。论文结合众多学者的研究,对深度回声状态网络的学习过程、应用和特点进行了详细介绍。该网络结构中加入了可以进行高维投影的编码器,在浅层回声状态网络的基础上进行了较大的改动,是一种值得研究的新型网络结构。 展开更多

关键词 递归神经网络 回声状态网络 深度回声状态网络 储备池 编码器 特征链接

在线阅读 下载PDF 职称材料

基于深度置信回声状态网络的网络流量预测模型 被引量：14

4

作者 李莹琦 黄越 孙晓川 《南京邮电大学学报（自然科学版）》 北大核心 2018年第5期85-90,共6页

文中将深度置信回声状态网络应用于网络流量预测。结构上,深度置信网络通过无监督的方式进行特征学习,有效地提取网络流量数据特征。然后,利用回声状态网络学习机制代替传统的反向传播方法进行局部权值调整,实现有监督的储备池学习。针... 文中将深度置信回声状态网络应用于网络流量预测。结构上,深度置信网络通过无监督的方式进行特征学习,有效地提取网络流量数据特征。然后,利用回声状态网络学习机制代替传统的反向传播方法进行局部权值调整,实现有监督的储备池学习。针对实际的网络流量数据集,仿真结果表明该模型在非线性逼近能力方面明显优于浅层的神经网络结构,同时能够有效地保持网络流量的自相似特性。 展开更多

关键词 深度置信回声状态网络 特征学习 自相似性 网络流量预测

在线阅读 下载PDF 职称材料

改进的深度回声网络在空调负荷预测中的应用 被引量：3

5

作者 王永海 李云峰 +3 位作者 董军 关爱章 王华秋 向力 《重庆理工大学学报（自然科学）》 北大核心 2023年第6期249-258,共10页

针对深度回声状态网络的输入权值随意性太大、中间状态数量庞大、关键参数凑试决定等问题,运用灰色关联度计算属性间的相关性从而确定输入权值。采用聚类算法简化中间状态,并用坐标轮换法搜索最佳的深度网络层数和储备池个数,对算法进... 针对深度回声状态网络的输入权值随意性太大、中间状态数量庞大、关键参数凑试决定等问题,运用灰色关联度计算属性间的相关性从而确定输入权值。采用聚类算法简化中间状态,并用坐标轮换法搜索最佳的深度网络层数和储备池个数,对算法进行改进。通过UCI标准数据集的实验,发现改进后的算法提升了预测精度和速度。采用改进的深度回声网络预测卷烟厂空调负荷,通过当前时刻的内外部条件,解决由于负荷数据周期性波动所造成的预测效率低的问题,及时准确地预测出了下一时刻的空调负荷,提前对冷水机组的运行策略进行了调节,从而达到空调节能的目的。 展开更多

关键词 深度回声状态网络 灰色关联度 聚类 坐标轮换法 空调负荷预测

在线阅读 下载PDF 职称材料

基于EMD-DESN的无人机集群航迹目的地预测 被引量：1

6

作者 薛锡瑞 黄树彩 +1 位作者 韦道知 吴建峰 《系统工程与电子技术》 EI CSCD 北大核心 2024年第1期290-299,共10页

无人机(unmanned aerial vehicle,UAV)集群作战样式多样、运动模式复杂,导致集群航迹目的地难以预测。为解决上述问题,本文提出了一种基于经验模态分解(empirical mode decomposition,EMD)和深度回声状态网络(deep echo state network,D... 无人机(unmanned aerial vehicle,UAV)集群作战样式多样、运动模式复杂,导致集群航迹目的地难以预测。为解决上述问题,本文提出了一种基于经验模态分解(empirical mode decomposition,EMD)和深度回声状态网络(deep echo state network,DESN)的UAV集群航迹目的地预测算法。为使集群运动模型更真实地模拟UAV集群作战过程,本文引入航向误差时变方差,改进了Olfati-Saber集群运动模型的虚拟领导项。为处理因群内的协同作用和集群航向误差导致的运动非平稳性,引入了EMD,对UAV航迹序列进行重构。考虑到获知航迹的时序性,设计了滑窗结构,采用DESN对重构航迹的不同时段进行目的地预测。仿真实验结果表明,本文提出的EMD-DESN算法较基本DESN算法能以更高的准确度预测UAV集群航迹目的地,并能更早地实现稳定的正确预测。 展开更多

关键词 无人机集群 目的地预测 深度回声状态网络 经验模态分解 改进Olfati-Saber模型

在线阅读 下载PDF 职称材料

空压机负荷预测与智能调度算法研究

7

作者 王华秋 张燕 《重庆理工大学学报（自然科学）》 CAS 北大核心 2024年第1期160-168,共9页

针对目前空压机机组调度中存在能源消耗高、资源浪费严重等问题,结合空压机机组的组合特点,对空压机的台数调度进行研究。提出一种多策略改进的哈里斯鹰优化算法(MHHO)和深度回声状态网络(DESN)相组合的空压机负荷预测模型,在获得一天2... 针对目前空压机机组调度中存在能源消耗高、资源浪费严重等问题,结合空压机机组的组合特点,对空压机的台数调度进行研究。提出一种多策略改进的哈里斯鹰优化算法(MHHO)和深度回声状态网络(DESN)相组合的空压机负荷预测模型,在获得一天24 h所需负荷之后,利用MHHO算法对机组组合进行调度和用气量分配。实验结果表明:预测模型对空压机负荷预测具有更高的准确性,提高了机组的运行效率,减少了系统能源消耗,具有应用价值。 展开更多

关键词 空压机负荷预测 改进的哈里斯鹰优化算法 深度回声状态网络 超参数 智能调度

在线阅读 下载PDF 职称材料

基于VMD-DESN-MSGP模型的超短期光伏功率预测 被引量：50

8

作者 王粟 江鑫 +1 位作者 曾亮 常雨芳 《电网技术》 EI CSCD 北大核心 2020年第3期917-926,共10页

光伏功率时间序列受到多种因素影响,呈现出高度的随机性和波动性。针对光伏功率时间序列可预测性低的问题,提出了一种结合变分模态分解(variationalmodal decomposition,VMD)、深度回声状态网络(deepechostate network,DESN)和稀疏高斯... 光伏功率时间序列受到多种因素影响,呈现出高度的随机性和波动性。针对光伏功率时间序列可预测性低的问题,提出了一种结合变分模态分解(variationalmodal decomposition,VMD)、深度回声状态网络(deepechostate network,DESN)和稀疏高斯混合过程专家模型(mixtureof sparse gaussian process experts model,MSGP)的超短期光伏功率预测方法。首先采用VMD将光伏功率时间序列分解为不同的模态,降低数据的非平稳性;为提高模型在超短尺度时序的预测能力,对各模态分别建立DESN预测模型,将各模态预测结果进行求和重构;为进一步提高模型预测精度,对误差的特性进行分析,采用MSGP对预测误差进行补偿;最后将误差的预测值与原功率的预测值相叠加作为最终预测结果。仿真结果表明,该方法在光伏功率时序预测中的效果比传统预测模型更好,有效提高了超短期光伏功率时间序列预测的准确性。 展开更多

关键词 光伏功率预测 时间序列 变分模态分解 深度回声状态网络 稀疏高斯混合过程专家模型

在线阅读 下载PDF 职称材料

基于DESSA-DESN和NCA的锂离子电池剩余寿命预测 被引量：1

9

作者 李练兵 朱乐 +2 位作者 景睿雄 王兰超 韩琪琪 《储能科学与技术》 CAS CSCD 北大核心 2023年第10期3191-3202,共12页

锂离子电池的剩余使用寿命(RUL)对于锂离子电池在设备中的管理、使用至关重要,为了提高RUL的预测精度,本工作提出一种基于混合差分进化-麻雀搜索算法(DESSA)优化的深度回声状态网络(DESN)和邻域成分分析法(NCA)的锂离子电池RUL预测方法... 锂离子电池的剩余使用寿命(RUL)对于锂离子电池在设备中的管理、使用至关重要,为了提高RUL的预测精度,本工作提出一种基于混合差分进化-麻雀搜索算法(DESSA)优化的深度回声状态网络(DESN)和邻域成分分析法(NCA)的锂离子电池RUL预测方法。首先,对锂离子电池的容量衰减特性进行分析,对于多种能够描述电池老化状态的间接健康指标,利用NCA算法降维处理,得到4个高相关度的健康因子作为模型的输入;其次,将差分进化算法(DE)和麻雀搜索算法(SSA)相结合,将突变、交叉、筛选等操作引入SSA算法的种群更新过程中,提出混合差分进化-麻雀搜索算法(DESSA)算法,利用DESSA算法对DESN网络的参数进行寻优,建立DESSA-DESN预测模型。最后,利用NASA数据集和CALCE数据集对所提模型的有效性和泛化性能进行验证,并与SSA-DESN、GPR等现有方法进行比较,结果表明本工作提出的DESSA-DESN模型能够更加准确追踪锂离子电池的退化状态,具有更小的预测误差,对RUL预测结果的均方根误差(RSME)能够保持在1.5%以内,平均绝对误差(MAE)保持在1%以下。 展开更多

关键词 锂离子电池 剩余使用寿命 邻域成分分析 深度回声状态网络 混合差分进化-麻雀搜索算法

在线阅读 下载PDF 职称材料

基于多任务学习的光信道性能多变量预测方法 被引量：1

10

作者 孙晓川 曹荻非 +2 位作者 郝明祥 李志刚 李莹琦 《重庆邮电大学学报（自然科学版）》 CSCD 北大核心 2023年第5期854-862,共9页

针对高速光骨干网络中信道传输损伤对信道性能造成影响的问题,提出基于多任务学习的光信道性能多变量预测方法。构建基于交叉递归图理论的光信道性能影响因素的确定方法,从定性和定量的角度实现对光信道性能的同信道以及跨信道影响因素... 针对高速光骨干网络中信道传输损伤对信道性能造成影响的问题,提出基于多任务学习的光信道性能多变量预测方法。构建基于交叉递归图理论的光信道性能影响因素的确定方法,从定性和定量的角度实现对光信道性能的同信道以及跨信道影响因素的有效筛选;利用多个筛选的影响因素,构建基于多任务学习的深度回声状态网络多变量预测方法,实现不同光信道状态参数的特征共享,进而高效准确地完成特定光信道的性能预测任务。仿真结果表明,提出的方法在保证运算效率的前提下,相较于其他先进深度学习模型,预测精度平均可提升约39.8%。 展开更多

关键词 光纤和光通信 交叉递归图理论 多任务学习 深度回声状态网络

在线阅读 下载PDF 职称材料

基于RLS在线学习算法的DeepESN动态软测量建模方法及应用 被引量：1

11

作者 岳文琦 《化工自动化及仪表》 CAS 2021年第5期491-496,共6页

提出了一种非线性自回归时间序列模型与深度回声状态网络(DeepESN)相结合的动态软测量建模方法,给出了深度回声状态网络的递推最小二乘(RLS)在线学习算法。将该方法应用于预测脱丁烷塔塔底丁烷含量,实现对相关产品质量的实时在线监控。... 提出了一种非线性自回归时间序列模型与深度回声状态网络(DeepESN)相结合的动态软测量建模方法,给出了深度回声状态网络的递推最小二乘(RLS)在线学习算法。将该方法应用于预测脱丁烷塔塔底丁烷含量,实现对相关产品质量的实时在线监控。在同等条件下,与回声状态网络(ESN)、泄漏积分回声状态网络(LiESN)的在线软测量建模结果进行比较,该方法的仿真结果显示出更高的预测性能和预测精度。 展开更多

关键词 软测量 丁烷含量预测 脱丁烷塔 深度回声状态网络 时间序列 递推最小二乘

在线阅读 下载PDF 职称材料

基于改进的DeepESN软测量建模方法及应用

12

作者 岳文琦 《测控技术》 2021年第10期63-68,共6页

针对硫回收装置中硫化氢和二氧化硫浓度的实时监控预测问题,提出一种基于改进的深度回声状态网络(DeepESN)软测量建模方法,给出了其离线学习算法。改进的DeepESN网络能够通过多层回声状态网络的结构,可以对具有强非线性特性的化工过程... 针对硫回收装置中硫化氢和二氧化硫浓度的实时监控预测问题,提出一种基于改进的深度回声状态网络(DeepESN)软测量建模方法,给出了其离线学习算法。改进的DeepESN网络能够通过多层回声状态网络的结构,可以对具有强非线性特性的化工过程进行有效的深度学习和预测。离线学习算法在求输出权值时加入了岭回归算法,有效地提高了网络学习的稳定性。将该方法在同等条件下与现有的软测量建模方法进行了比较,基于改进的DeepESN软测量建模方法具有更好的学习能力、更高的学习效率和预测精度。 展开更多

关键词 深度回声状态网络 软测量 预测 算法 化工过程

在线阅读 下载PDF 职称材料

基于SAS-DBEN的海洋环境多因素预测方法 被引量：1

13

作者 王嘉琳 金宇悦 李志刚 《电脑知识与技术》 2021年第22期1-2,19,共3页

激励函数对深度神经网络的非线性逼近性能具有重要影响,其选择与任务相关。针对这一问题,提出基于自适应选择算法的深度置信回声状态网络模型,并应用于海洋环境多因素时间序列预测。该模型集成了14种激励函数,通过预测性能比较实现自适... 激励函数对深度神经网络的非线性逼近性能具有重要影响,其选择与任务相关。针对这一问题,提出基于自适应选择算法的深度置信回声状态网络模型,并应用于海洋环境多因素时间序列预测。该模型集成了14种激励函数,通过预测性能比较实现自适应选择功能。仿真结果表明,该模型能够正确选择出最优激励函数,具有良好的海洋数据多因素预测能力。 展开更多

关键词 海洋环境数据 时间序列预测 深度置信回声状态网络 自适应选择算法 激励函数

在线阅读 下载PDF 职称材料