迭代再权共轭梯度q范数正则化线性最小二乘–支持向量机分类算法 被引量：1

1

作者 刘建伟 黎海恩 +2 位作者 刘媛 付捷 罗雄麟 《控制理论与应用》 EI CAS CSCD 北大核心 2014年第3期334-342,共9页

L2范数罚最小二乘–支持向量机(least square support vector machine algorithm,LS–SVM)分类器是得到广泛研究和使用的机器学习算法,其算法中正则化阶次是事先给定的,预设q=2.本文提出q范数正则化LS–SVM分类器算法,0<q<∞,把q... L2范数罚最小二乘–支持向量机(least square support vector machine algorithm,LS–SVM)分类器是得到广泛研究和使用的机器学习算法,其算法中正则化阶次是事先给定的,预设q=2.本文提出q范数正则化LS–SVM分类器算法,0<q<∞,把q取值扩大到有理数范围.利用网格法改变正则化权衡参数c和正则化阶次q的值,在所选的c和q值上,使用迭代再权方法求解分类器目标函数,找出最小分类预测误差值,使预测误差和特征选择个数两个性能指标得到提高.通过对不同领域的实际数据进行实验,可以看到提出的分类算法分类预测更加准确同时可以实现特征选择,性能优于L2范数罚LS–SVM. 展开更多

关键词 q范数正则化 最小二乘-支持向量机(LS-SVM) 迭代再权共轭梯度法

在线阅读 下载PDF 职称材料

信赖域共轭梯度法求解二次规划逆问题 被引量：1

2

作者 高雷阜 陈曦 于冬梅 《计算机工程与应用》 CSCD 2014年第1期41-44,共4页

为了有效地求解二次规划逆问题,提出了一种求解其对偶问题的子问题的光滑化信赖域共轭梯度法。该方法采用增广拉格朗日法求解其对偶问题,引入光滑函数将对偶问题的子问题转换成连续的无约束优化问题,将信赖域法与共轭梯度法结合,设计出... 为了有效地求解二次规划逆问题,提出了一种求解其对偶问题的子问题的光滑化信赖域共轭梯度法。该方法采用增广拉格朗日法求解其对偶问题,引入光滑函数将对偶问题的子问题转换成连续的无约束优化问题,将信赖域法与共轭梯度法结合,设计出求解二次规划逆问题的算法流程。数值实验结果表明,该方法可行且有效,与牛顿法相比,更适合求解大规模问题。 展开更多

关键词 二次规划 逆问题 光滑函数 信赖域共轭梯度法

在线阅读 下载PDF 职称材料

用共轭梯度法实现约束最小二乘问题的快速恢复

3

作者 董智斌 张子范 《西部电子》 1990年第1期38-43,共6页

关键词 共轭梯度法 最小二乘 图象恢复

在线阅读 下载PDF 职称材料

基于完全最小二乘原则及归一化共轭梯度法的荧光断层成像重建算法

4

作者 尚尚 白净 +1 位作者 宋小磊 王洪凯 《航天医学与医学工程》 CAS CSCD 北大核心 2008年第4期338-342,共5页

目的基于完全最小二乘原则,研究荧光断层成像技术。方法由漫射方程对荧光断层成像正问题建模,并使用有限元法计算出权重矩阵后,引入完全最小二乘原则,使用归一化共轭梯度法对荧光信息进行重建。结果该算法的抗噪性能优于同等情况下基于... 目的基于完全最小二乘原则,研究荧光断层成像技术。方法由漫射方程对荧光断层成像正问题建模,并使用有限元法计算出权重矩阵后,引入完全最小二乘原则,使用归一化共轭梯度法对荧光信息进行重建。结果该算法的抗噪性能优于同等情况下基于最小二乘原则的重建算法,且对于初值的稳定性较好。此外,避免了普通共轭梯度法解完全最小二乘问题时的溢出现象,使得算法的稳定性及实用性增强。结论本文所提出的算法具有较好的抗噪性、准确性及稳定性,是一种有效的荧光断层成像重建算法。 展开更多

关键词 完全最小二乘原则 归一化共轭梯度法 荧光分子断层成像 图像重建算法

在线阅读 下载PDF 职称材料

矩阵最小二乘广义逆共轭梯度算法

5

作者 王蕾 《聊城大学学报（自然科学版）》 2013年第1期21-25,共5页

研究了矩阵最小二乘广义逆新的性质,给出矩阵最小二乘广义逆共轭梯度算法,并给出一些例子来说明这种方法的有效性.

关键词 最小二乘广义逆 共轭梯度法 线性方程

在线阅读 下载PDF 职称材料

解线性最小二乘问题的一个新并行算法 被引量：4

6

作者 杨志霞 张知难 《新疆大学学报（自然科学版）》 CAS 2004年第4期370-376,共7页

讨论了求解无约束线性最小二乘问题的一种并行单纯形法以及对它的改进算法并行共轭梯度—单纯形法 .算法本身具有很强的并行机制 ,能够充分地发挥并行机快速省时的特点 .本文也对算法做了理论分析 ,对算法的收敛性给予了证明 (在二维情... 讨论了求解无约束线性最小二乘问题的一种并行单纯形法以及对它的改进算法并行共轭梯度—单纯形法 .算法本身具有很强的并行机制 ,能够充分地发挥并行机快速省时的特点 .本文也对算法做了理论分析 ,对算法的收敛性给予了证明 (在二维情形下 ) .最后做了数值实验 (由于软硬件条件的限制 ,并行算法未能在并行计算机上实现 ,鉴于这种情况 ,我们所做的数值实验均是在串行机上完成的 ) 展开更多

关键词 最小二乘问题 线性 数值实验 共轭梯度 收敛性 并行算法 并行机 并行计算机 串行 改进算法

在线阅读 下载PDF 职称材料

基于最小二乘修正的混合HS和DY共轭梯度法

7

作者 陈贞晶 《重庆科技学院学报（自然科学版）》 CAS 2019年第5期44-49,共6页

共轭梯度法主要用来求解大规模无约束问题,具有所需存储量小、强收敛性和计算方便等特点。针对混合的Hestenes-Stiefel和Dai-Yuan共轭梯度方法,采用最小二乘的思想,通过极小化混合的方法和充分下降的三项共轭梯度法的搜索方向之间的距... 共轭梯度法主要用来求解大规模无约束问题,具有所需存储量小、强收敛性和计算方便等特点。针对混合的Hestenes-Stiefel和Dai-Yuan共轭梯度方法,采用最小二乘的思想,通过极小化混合的方法和充分下降的三项共轭梯度法的搜索方向之间的距离之差,求解混合参数,使得混合的Hestenes-Stiefel和Dai-Yuan方法在Wolfe线搜索下满足充分下降性和对一致凸函数全局收敛。与Hager-Zhang和Dai-Kou提出的方法比较,修正后的方法在计算上更有优势。 展开更多

关键词 共轭梯度法 WOLFE线搜索 最小二乘法 一致凸函数 全局收敛

在线阅读 下载PDF 职称材料

不定最小二乘问题的改进的不完全双曲Gram-Schmidt预处理算法

8

作者 李献娟 刘巧华 《应用数学与计算数学学报》 2012年第1期45-52,共8页

应用改进的不完全双曲Gram-Schmidt(IHMGS)方法预处理不定最小二乘问题的共轭梯度法(CGILS)、正交分解法(ILSQR)与广义的最小剩余法(GMRES)等迭代算法来求解大型稀疏的不定最小二乘问题.数值实验表明,IHMGS预处理方法可有效提高相应算... 应用改进的不完全双曲Gram-Schmidt(IHMGS)方法预处理不定最小二乘问题的共轭梯度法(CGILS)、正交分解法(ILSQR)与广义的最小剩余法(GMRES)等迭代算法来求解大型稀疏的不定最小二乘问题.数值实验表明,IHMGS预处理方法可有效提高相应算法的迭代速度,且当矩阵的条件数比较大时,效果更加显著. 展开更多

关键词 不定最小二乘(ILS)问题 改进的不完全双曲Gram-Schmidt(IHMGS) 最小二乘问题的共轭梯度法(cgils) 最小二乘问题正交分解法(ILSQR) 广义的最小剩余法(GM—RES) 预处理

在线阅读 下载PDF 职称材料

变分不等式的二次插值多水平预处理共轭梯度法

9

作者 王兴旺 李郴良 李明 《桂林电子科技大学学报》 2010年第1期81-85,共5页

讨论了由障碍问题所描述的一类变分不等式。在多水平预处理共轭梯度法的基础上,考虑在内迭代中采用二次插值算子,由此构造了一个新的多水平预条件子。证明了在新的预条件子作用下,线性辅助问题中的迭代矩阵的条件数仅为O(l2),远小于节... 讨论了由障碍问题所描述的一类变分不等式。在多水平预处理共轭梯度法的基础上,考虑在内迭代中采用二次插值算子,由此构造了一个新的多水平预条件子。证明了在新的预条件子作用下,线性辅助问题中的迭代矩阵的条件数仅为O(l2),远小于节点基下的迭代矩阵的条件数O(h-2)。 展开更多

关键词 障碍问题 变分不等式 多水平预条件子 共轭梯度法 二次插值算子

在线阅读 下载PDF 职称材料

求解地震波反演问题的一类预处理共轭梯度方法

10

作者 郭云翔 周昭豪 殷俊锋 《应用数学与计算数学学报》 2016年第1期71-80,共10页

地质勘探中的全波形反演模型可以转化为一个求解带微分方程约束的最小二乘问题,这类模型通过扩大了搜索区域,减少了变量的储存,提高了计算效率.基于上述模型,采用有限差分方法离散Helmholtz方程,提出一类预处理共轭梯度法求解地震波场,... 地质勘探中的全波形反演模型可以转化为一个求解带微分方程约束的最小二乘问题,这类模型通过扩大了搜索区域,减少了变量的储存,提高了计算效率.基于上述模型,采用有限差分方法离散Helmholtz方程,提出一类预处理共轭梯度法求解地震波场,并交替更新地层信息.数值实验中测试和比较了对角预处理、Gauss-Seidel预处理和不完全LU分解三种预处理方法,实验结果表明这类预处理方法应用到共轭梯度法中能够减少迭代步数、改善实验精度,加快反演迭代效率. 展开更多

关键词 全波形反演 HELMHOLTZ方程 最小二乘问题 预处理 共轭梯度法

在线阅读 下载PDF 职称材料

总体最小二乘正则化算法的载荷识别 被引量：13

11

作者 张磊 曹跃云 +1 位作者 杨自春 何元安 《振动与冲击》 EI CSCD 北大核心 2014年第9期159-164,共6页

载荷识别中存在病态矩阵求逆的不稳定性将导致解严重失真。在总体最小二乘(Total Least Squares TLS)算法的思想上进行Tikhonov正则化,构造载荷识别的目标函数。然后利用共轭梯度(Conjunction Gradient CG)法解算该目标函数的最优化问题... 载荷识别中存在病态矩阵求逆的不稳定性将导致解严重失真。在总体最小二乘(Total Least Squares TLS)算法的思想上进行Tikhonov正则化,构造载荷识别的目标函数。然后利用共轭梯度(Conjunction Gradient CG)法解算该目标函数的最优化问题,提出一种算法易实现、收敛性能好、存储量小,且能全面考虑随机误差影响的CG-TLS正则化算法。经仿真和试验探讨了传递函数矩阵病态产生的原因,借助条件数优选振动响应点,最终检验CG-TLS正则化算法与常用的两种正则化算法在不同噪声水平时载荷识别的效果。结果表明,CG-TLS正则化算法载荷识别效果最优,与真实值吻合好,并具有良好的鲁棒性。因此,应用CG-TLS正则化算法实现载荷识别极具实际意义。 展开更多

关键词 载荷识别 总体最小二乘 共轭梯度法 病态 正则化

在线阅读 下载PDF 职称材料

基于空域最小二乘法求解GOCE卫星重力场的模拟研究 被引量：10

12

作者 徐新禹 李建成 +1 位作者 姜卫平 邹贤才 《测绘学报》 EI CSCD 北大核心 2011年第6期697-702,709,共7页

论述最小二乘过程中有色噪声的处理方法,提出使用自回归模型对GOCE梯度观测值中的有色噪声进行时域滤波,数值模拟结果验证该方法的有效性。利用数值模拟验证直接求逆方法和PCCG法求解大型法方程的有效性,后者的效率远远高于前者。联合... 论述最小二乘过程中有色噪声的处理方法,提出使用自回归模型对GOCE梯度观测值中的有色噪声进行时域滤波,数值模拟结果验证该方法的有效性。利用数值模拟验证直接求逆方法和PCCG法求解大型法方程的有效性,后者的效率远远高于前者。联合加入噪声(有色噪声和白噪声)的卫星重力梯度张量径向分量观测值Vzz和SST观测值,分别使用空域最小二乘法和半解析法恢复180阶全球重力场模型,前者求解重力场模型的大地水准面和重力异常在180阶次的精度分别为3.01 cm和0.75 mGal(1 mGal=10-5 m/s2),优于半解析法求解模型的精度。 展开更多

关键词 GOCE卫星 空域最小二乘法 预处理共轭梯度法 半解析法 卫星重力梯度 自回归模型

在线阅读 下载PDF 职称材料

基于改进的预处理共轭梯度法和三维插值法精确和快速解算GRACE地球重力场 被引量：8

13

作者 郑伟 许厚泽 +1 位作者 钟敏 员美娟 《地球物理学进展》 CSCD 北大核心 2011年第3期805-812,共8页

本文首先对比分析了基于直接最小二乘法(DLSP),预处理共轭梯度法(PCCG)和三维插值法(TDIM)解算卫星观测方程的优缺点;其次,基于能量守恒法分别利用改进的PCCG和TDIM反演了120阶GRACE地球重力场,在120阶处累计大地水准面精度为17.316 cm... 本文首先对比分析了基于直接最小二乘法(DLSP),预处理共轭梯度法(PCCG)和三维插值法(TDIM)解算卫星观测方程的优缺点;其次,基于能量守恒法分别利用改进的PCCG和TDIM反演了120阶GRACE地球重力场,在120阶处累计大地水准面精度为17.316 cm和15.421 cm;最后,通过和德国波兹坦地学研究中心(GFZ)公布的EIGEN-GRACE02S地球重力场模型的符合性验证了基于PCCG和TDIM解算高精度和高空间分辨率地球重力场的有效性,同时提出TDIM可作为将来有效解算中高频地球重力场(如GRACE Follow-On,360阶)的优选方法之一. 展开更多

关键词 GRACE 直接最小二乘法 预处理共轭梯度法 三维插值法 地球重力场

在线阅读 下载PDF 职称材料

基于互相关误差泛函的最小二乘逆时偏移方法 被引量：2

14

作者 王连坤 方伍宝 +3 位作者 段心标 胡光辉 李振春 万弘 《物探与化探》 CAS CSCD 2016年第5期980-985,共6页

最小二乘偏移可以得到成像质量更高的剖面,有利于更好地进行岩性储层成像和储层参数反演。但是,最小二乘偏移在实用化过程中却很难实现其高精度岩性成像的目标。在分析传统的最小二乘偏移存在的问题后,发展了一种基于相位匹配的最小二... 最小二乘偏移可以得到成像质量更高的剖面,有利于更好地进行岩性储层成像和储层参数反演。但是,最小二乘偏移在实用化过程中却很难实现其高精度岩性成像的目标。在分析传统的最小二乘偏移存在的问题后,发展了一种基于相位匹配的最小二乘偏移方法,该方法舍弃了传统的二次型泛函,采用互相关泛函,更多地强调相位信息在最小二乘偏移中的作用,在理论上可以更好地适用于实际资料。通过对互相关误差泛函构建、逆时反偏移合成预测数据、梯度预条件处理、共轭梯度法迭代求解等方面进行研究,探索实现了基于互相关误差泛函的最小二乘逆时偏移方法。简单凹陷模型和复杂salt模型测试表明,本文方法具有较好的适用性和有效性。 展开更多

关键词 互相关误差泛函 最小二乘逆时偏移 相位匹配 预条件共轭梯度法

在线阅读 下载PDF 职称材料

火山形变Mogi模型反演的病态总体最小二乘解算方法 被引量：4

15

作者 于冬冬 王乐洋 《测绘工程》 CSCD 2017年第7期22-25,共4页

相对最小二乘方法,总体最小二乘顾及了观测方程系数矩阵含有误差的情况,然而,当系统出现病态时,总体最小二乘受病态的影响将更加明显。因此,针对病态总体最小二乘问题解算方法的研究越来越多受到关注。文中基于总体最小二乘进行火山形变... 相对最小二乘方法,总体最小二乘顾及了观测方程系数矩阵含有误差的情况,然而,当系统出现病态时,总体最小二乘受病态的影响将更加明显。因此,针对病态总体最小二乘问题解算方法的研究越来越多受到关注。文中基于总体最小二乘进行火山形变Mogi模型反演,针对反演过程中出现的病态性问题,采用虚拟观测解法、谱修正迭代解法、共轭梯度解法,通过模拟算例验证文中方法在抑制病态性方面的有效性。与一般总体最小二乘、正则化总体最小二乘等方法相比存在优势。 展开更多

关键词 Mogi模型 病态总体最小二乘问题 虚拟观测法 谱修正迭代法 共轭梯度法

在线阅读 下载PDF 职称材料

基于非线性共轭梯度法的唯相直接数据域算法 被引量：2

16

作者 邵尉 钱祖平 《系统仿真学报》 EI CAS CSCD 北大核心 2007年第16期3657-3659,3663,共4页

提出一种基于非线性共轭梯度法的唯相直接数据域最小二乘算法。根据标准直接数据域算法得到代价函数,由小相位扰动效应和泰勒展式推导得到代价函数的梯度,使用非线性共轭梯度法对代价函数进行优化,最终确定最优唯相权值向量。作为一种... 提出一种基于非线性共轭梯度法的唯相直接数据域最小二乘算法。根据标准直接数据域算法得到代价函数,由小相位扰动效应和泰勒展式推导得到代价函数的梯度,使用非线性共轭梯度法对代价函数进行优化,最终确定最优唯相权值向量。作为一种唯相自适应算法,它在硬件实现上比传统算法更具简单性。同时,它只对单快拍数据进行处理,避免了样本协方差矩阵的构造以及矩阵求逆运算,更适合于实时处理。仿真结果表明,算法具有良好的信号恢复和干扰置零性能。 展开更多

关键词 唯相自适应算法 直接数据域最小二乘算法 单快拍处理 非线性共轭梯度法

在线阅读 下载PDF 职称材料

一种设计线性相位最小二乘逼近滤波器的方法 被引量：1

17

作者 李桂华 《西北大学学报（自然科学版）》 CAS CSCD 北大核心 2001年第5期372-374,378,共4页

运用变分原理并结合数值分析的一些方法 ,给出了一种设计线性相位最小二乘滤波器的算法 。

关键词 最小二乘逼近 线性相位 Ritz型函极值 共轭梯度法 滤波器 变分原理

在线阅读 下载PDF 职称材料

求双变量LME一种异类约束最小二乘解的MCG算法

18

作者 刘晓敏 张凯院 谢培月 《中北大学学报（自然科学版）》 CAS 北大核心 2012年第4期358-362,386,共6页

借鉴求线性矩阵方程(LME)同类约束最小二乘解的修正共轭梯度法,建立了求双变量LME的一种异类约束最小二乘解的修正共轭梯度法,并证明了该算法的收敛性.在不考虑舍入误差的情况下,利用该算法不仅可在有限步计算后得到LME的一组异类约束... 借鉴求线性矩阵方程(LME)同类约束最小二乘解的修正共轭梯度法,建立了求双变量LME的一种异类约束最小二乘解的修正共轭梯度法,并证明了该算法的收敛性.在不考虑舍入误差的情况下,利用该算法不仅可在有限步计算后得到LME的一组异类约束最小二乘解,而且选取特殊初始矩阵时,可求得LME的极小范数异类约束最小二乘解.另外,还可求得指定矩阵在该LME的异类约束最小二乘解集合中的最佳逼近.算例表明,该算法是有效的. 展开更多

关键词 线性矩阵方程 异类约束最小二乘解 修正共轭梯度法 极小范数解 最佳逼近

在线阅读 下载PDF 职称材料

一种改进共轭梯度在线学习滑模控制算法

19

作者 何晟 夏鲲 《电子测量技术》 2017年第8期1-5,共5页

对于一类基于T-S模糊模型描述的非线性不确定系统,滑模控制算法的稳态误差和动态品质与T-S模糊算法描述模型的准确度相关,利用最小二乘支持向量机算法(LSSVM)学习T-S模糊模型可以很好的逼近实际系统。但是由于LSSVM算法对数据量有一定要... 对于一类基于T-S模糊模型描述的非线性不确定系统,滑模控制算法的稳态误差和动态品质与T-S模糊算法描述模型的准确度相关,利用最小二乘支持向量机算法(LSSVM)学习T-S模糊模型可以很好的逼近实际系统。但是由于LSSVM算法对数据量有一定要求,而且学习速度比较慢,对要求动态响应较高或者内存较小的系统不适用。提出了一种基于改进共轭梯度在线学习算法学习T-S模型,可以实时逼近实际模型,配合滑模控制算法可以达到控制系统的渐进稳定。在不同误差条件下对该控制算法进行仿真实验,在随机误差幅值100以内,系统稳态误差为0.01,同时对时变误差表现出快速的稳定特性,显示了该控制算法较强的鲁棒性。最后,实验还对随机误差幅值为500的系统验证了T-S模型对于系统学习数据的随机误差具有去噪能力。 展开更多

关键词 T-S模糊模型 滑模控制 共轭梯度法 最小二乘支持向量机 鲁棒性

在线阅读 下载PDF 职称材料

一种基于谱共轭梯度法的时间域全波形反演

20

作者 杜鑫 《石油地质与工程》 CAS 2022年第6期23-27,共5页

针对全波形反演中常规共轭梯度法收敛速度较慢的问题,提出了一种谱共轭梯度法。全波形反演的本质为最小二乘优化,是利用地震波场的全部信息,根据实际数据与正演模拟得到的数据差值建立目标函数。目标函数值越小,则认为正演模型越接近实... 针对全波形反演中常规共轭梯度法收敛速度较慢的问题,提出了一种谱共轭梯度法。全波形反演的本质为最小二乘优化,是利用地震波场的全部信息,根据实际数据与正演模拟得到的数据差值建立目标函数。目标函数值越小,则认为正演模型越接近实际的地下构造。全波形反演目前应用较为广泛的是梯度类局部优化反演方法,主要包括最速下降法、共轭梯度法等。通过引入谱变量对共轭梯度法进行改进,在加快收敛速度的同时使收敛更加稳定。将该法应用于频率域声波全波形反演中,并用简单的Marmousi模型进行测试。结果表明,相对于传统的共轭梯度法,谱共轭梯度法能加快收敛速度,深部反演效果更好。 展开更多

关键词 全波形反演 最小二乘优化 谱共轭梯度法

在线阅读 下载PDF 职称材料