２０１４年第１期 桂林航天工业学院学报 （总第７３期） ＪＯＵＲＮＡＬ ＯＦ ＧＵＩＬＩＮ ＵＮＩＶＥＲＳＩＴＹ ＯＦ ＡＥＲＯＳＰＡＣＥ ＴＥＣＨＮＯＬＯＧＹ 数学研究与应用 Ｆ Ｏ Ｍ与ＧＭＲＥＳ算法收敛性分析 吴果林“ 李修清 王彦辉 周立新 ／１桂林航天工业学院理学部，广西桂林５４１００４．、 ＼２桂林航天工业学院教务处，广西桂林５４１００４， 摘 要 求解大型稀疏线性系统一般采用迭代法，ＦＯＭ与ＧＭＲＥＳ算法是两个非常重要的Ｋｒｙ１０ｖ子空间类方法．文章 在ＦＯＭ与ＧＭＲＥＳ算法误差分析的基础上推导了在相邻的两个Ｋｒｙｌｏｖ子空间ＧＭＲＥＳ算法解的误差关系 式，以及ＦＯＭ与ＧＭＲＥＳ算法误差向量的联系并证明了两算法误差范数的关系．结果表明：在相同的Ｋｒｙｌｏｖ 子空间，ＧＭＲＥＳ算法给出的解优于ＦＯＭ算法。 关键词线性方程；Ｋｒｙｌｏｖ子空间；ＦＯＭ；ＧＭＲＥＳ；收敛 中图分类号：Ｏ２４１．６ 文献标志码：Ａ 文章编号：２０９５—４８５９（２０１４）０１—００６２—６ １ 引言 的工作，如钟宝江＿７ 分析了ＧＭＲＥＳ算法的收敛率 众所周知，许多科学计算都可归结为求解大型 与投影过程中Ｒｉｔｚ值对特征值的逼近程度之间的 稀疏线性方程组 联系；曹志浩 ］、Ｗ．Ｊｏｕｂｅｒｔ『ｇ 等探讨ＧＭＲＥＳ多 ＡＸ—ｂ， （１．１） 项式的根以及系数矩阵Ａ的谱对ＧＭＲＥＳ（ｍ）算 其中Ａ∈Ｒ ”且非奇异，Ｘ，ｂ∈Ｒ”．由于此类方 法收敛速度的影响；吴果林Ｉ１ ０］分析了误差向量在 程规模较大，采用直接法求解对计算机硬件要求较 Ｋｒｙｌｏｖ子空间上的投影对ＧＭＲＥＳ（ｍ）算法收敛 高，往往会造成内存不足等问题，因此采用迭代法 速度的影响，较少文献关注Ｆ０Ｍ与ＧＭＲＥＳ算法 是求解这类方程组最普遍的选择．在已知的迭代方 收敛性的联系．文章在ＦＯＭ与ＧＭＲＥＳ算法误差 法中，Ｋｒｙｌｏｖ子空间类方法由于在Ｋｒｙｌｏｖ子空间 分析的基础上，推导了在相邻的两个Ｋｒｙｌｏｖ子空 上迭代，具有存储量小、计算量小且易于并行计算 间ＧＭＲＥＳ算法解的误差关系式，以及ＦＯＭ与 等优点，正受到越来越多的重视．近些年来，人们对 ＧＭＲＥＳ算法误差向量的联系，在此基础上进一步 Ｋｒｙｌｏｖ子空间类方法进行了深入的研究，提出了 证明了两算法误差范数的关系． 各种各样的算法，如ＣＧＥ 、ＦＯＭＥ 、ＧＭＲＥＳ［ 、 ＧＭＲＥＳＲ［ 、ＦＧＭＲＥＳＥ 、ＧＣＲ［。 等．在Ｋｒｙｌｏｖ子 ２ ＦＯＭ与ＧＭＲＥＳ算法 空间类方法中， 完全交化方法（Ｆｕｌｌ 考虑到ＦＯＭ与ＧＭＲＥＳ算法都是在Ｋｒｙｌｏｖ Ｏｒｔｈｏｇｏｎａｌｉｚａｔｉｏｎ Ｍｅｔｈｏｄ，Ｆ０Ｍ）和广义最小残 子空间上进行迭代，为此，我们先简单介绍寻找 量方法（Ｇｅｎｅｒａｌｉｚｅｄ Ｍｉｎｉｍｕｍ Ｒｅｓｉｄｕａｌ Ｍｅｔｈｏｄｓ， Ｋｒｙｌｏｖ子空间一组正交基的Ａｒｎｏｌｄｉ算法的一个 ＧＭＲＥＳ）非常重要，因为目前发展出来的诸多方 性质，有关Ａｒｎｏｌｄｉ算法以及该性质的证明可参考 法都借鉴了它们的思想．因此，分析和研究这两种 文献［１１］． 方法的收敛性质以及它们之间的关系，对于分析 记Ｘ。为一初始向量，，．。一６一ＡＸ。，设由ｒ。扩 Ｋｒｙｌｏｖ子空间类的其它算法的收敛性质、改善它 张成的Ｋｒｙｌｏｖ子空间为Ｋ （Ａ，ｒ。）一ｓｐａｎ｛ｒ。， 们的收敛速率等方面都有着十分重要的意义．近２０ Ａｒ０，Ａｒ ，…，Ａｒ ｝，记 一ｌ Ｉｒｏ ｌｌ ２，Ｖｌ—ｒｏ／８，经 年来，许多学者对ＧＭＲＥＳ算法的收敛性做了大量 过ｍ步Ａｒｎｏｌｄｉ算法生成的向量分别为７３ ，７３。，…， ＊基金项目：广西教育厅科研项目《稀疏线性系统的迭代方法收敛性分析》（编号：２０１１０６ＬＸ７１７）；广西高校科研项 目《几类特殊矩阵的特殊性质研究》（编号：２０１１０６ＬＸ７２３）；桂林航天工业学院科研课题《分块矩阵广义Ｓｃｈｕｒ补的性质研 究》（编号：Ｘ １２ Ｚ０２２）。 ＊＊作者简介：吴果林，男，江西新余人。讲师，硕士。研究方向：运筹优化。 ６２ ２０１４年第１期 桂林航天工业学院学报 吴果林 李修清，． （总第７３期） ＪＯｕＲＮＡＬ ０Ｆ ＧＵＩｕＮ ＵＮＩＶＥＲＳＩＴＹ ０Ｆ ＡＥＲｏＳＰＡＣＥ ＴＥＣＨＮＯＬＯＧＹ 王彦辉 周立新／又 ＋１，则有： ＋１ 性质２．１ 记Ｖ 一［ ， ｚ，…， ］，Ｈ 为（ ＋１）×ｍ的Ｈｅｓｓｅｎｂｅｒｇ矩阵，其非零元素ｈ 由 Ｃ 一—一—＝二—Ａｒｎｏｌｄｉ算法确定，Ｈ 为Ｈ 矩阵删除最后一行元 ４（ｈ ＝二竺 二＝） ＋ｈ ｌ＝＝＝＝＝＝ －ｌ （２．・１上 Ｏ０）素所得到，则有下面的关系成立 记Ｑ 为ｍ次旋转变换矩阵，则有： ＡＶ 一Ｖ ＋１Ｈ ， （２．１） Ｑ 一Ｐ Ｐ （ｍ＋－１”…Ｐ １， （２．１１） ＡＶ 一Ｈ ． （２．２） Ｈ 一Ｑ Ｈ ． （２．１２） Ｆ０Ｍ算法是一种正交投影方法．该方法通过 记 强加Ｇａｌｅｒｋｉｎ条件在子空间Ｘ。＋Ｋ （Ａ，ｒ。）上寻 △ 一Ｑ （ｐｅ１）一（ １， ２，…， ＋１） 找一个近似解ｘ ，其ｘ 由下面式子给出 （２．１３） Ｘ 一Ｘ。＋Ｖ Ｙ ， （２．３） 由于Ｑ 为正交矩阵，那么 Ｙ 一Ｈ （ｐｅ１）， （２．４） ｍｉｎ＿ Ｉ１一Ｈ ｙ ｌｌ ２一ｍｉｎ ｌＩ△ 一Ｈ ’ｙ＿Ｉ ２ 其中 一＿＿ｒ。［１。，ｅ。为第１个元素为１的ｍ维单位 （２．１４） 向量，Ｖ ，Ｈ 是由Ａｒｎｏｌｄｉ算法生成的矩阵．对于 类似于记号Ｈ 的引入，记Ｈ ，△ 为 近似解Ｘ ，有下面的关系成立． Ｈ ，△ 删除最后一行所得到Ｗ／×ｍ上三角矩阵 引理２．１ Ｅ 设Ｘ 为Ｆ０Ｍ算法迭代得到方 与ｍ维向量，于是超定方程组Ｉｌ△ 一Ｈ ｙ ＩＩ 程组（１．１）的近似解，则有 的最小二乘解为 ｂ—ＡＸ 一一ｈ ＋１． ｅ ｙ ＋１， （２．５） Ｙ ：＝＝（Ｈ ）－１△ （２．１５） 或 【 ｌｂ—Ａ ｌ ｌ一ｈ ＋ ， ｌ Ｐ ｙ １． （２．６） 关于ＧＭＲＥＳ算法的误差，我们有 引理２．２Ｅ。 若Ｘ 是ＧＭＲＥＳ算法求解方程 ＧＭＲＥＳ也是一种投影方法，它求得方程ＡＸ 组（１．１）的近似解，则有 —ｂ的近似解也是由式（２．３）给出．与ＦＯＭ算法不 ｂ—ＡＸ ＝＝：Ｖ ＋１（ １一Ｈ Ｙ ）一Ｖ ＋１ 同的是，ｙ 不是由式（２．４）求出，而是最小化范数 （Ｑ ） ＋１ｅ ＋ｌ， （２．１６） ｌＩ 一Ｈ ｙ 得出，即ＧＭＲＥＳ算法的近似解 或 Ｘ 满足 Ｉ １ｂ—Ａｘ ｌ ｌ＝＝＝Ｉ ＋。Ｉ． （２．１７） Ｘ 一Ｘ。＋Ｖ Ｙ ， （２．７） Ｙ 一ｒａｉｎ ｌ ｌｌ—Ｈ ｙ［ １２． （２．８） ３ Ｆ０Ｍ与ＧＭＲＥＳ算法的收敛关系 式（２．８）给出的ｙ 实际上是求解超定方程组 为了更方便地探讨ＦＯＭ与ＧＭＲＥＳ算法收 Ｉｌ 一Ｈ ｙ ｌ Ｉ的最小二乘解．在实际应用过程 敛关系，引入上标Ｆ与Ｇ分别表示ＦＯＭ与 中，通常利用Ｇｉｖｅｎｓ平面旋转变换将Ｈｅｓｓｅｎｂｅｒｇ ＧＭＲＥＳ算法，如ｒ三，ｒ要分别表示Ｆ０Ｍ与 矩阵Ｈ 化成上三角矩阵来求解．记Ｈ 表示Ｈ ＧＭＲＥＳ算法生成解的误差向量．则两个算法的误 经过Ｗ／次旋转变换后所得到的上三角矩阵，Ｐ 差向量满足下列关系． 为第ｉ次Ｇｉｖｅｎｓ变换矩阵，其中 定理３．１ 设Ｘ 一 ，Ｘ 分别是来自Ｘ。＋ Ｋ 一１（Ａ，ｒ。），Ｘ。＋Ｋ （Ａ，ｒ。）两个子空间 １ ＧＭＲＥＳ算法求得的两个近似解，Ｘ 是Ｘ。＋ Ｋ （Ａ，ｒ。）子空间上Ｆ０Ｍ算法求得的近似解， Ｐ 一 则有 Ｘ 一ｓ ２ Ａ Ｇ一１＋ｃ ２ Ａ Ｆ （３．１） 或 １ ｒＧ— ２ Ｇ ｍｒ１＋ｆｍ２ ｒｍＦ （３．２） （２．９） 其中ｓ ，Ｃ 为第ｍ次Ｇｉｖｅｎｓ变换矩阵Ｐ 中的 ６３ ２０１４年第１期 桂林航天工业学院学报 吴果林 李修清 （总第７３期） ＪＯＵＲＮＡＬ ０Ｆ ＧＵＩｕＮ ｕＮ ＶＥＲＳＩＴＹ ０Ｆ ＡＥＲＯＳＰＡＣＥ ＴＥＣＨＮＯＬＯＧＹ 王彦辉 周立新／叉 、 元素． １ 证明：由于ＧＭＲＥＳ算法是通过求解超定方程 组的最小二乘解进而得到线性方程组的近似解，故 若在子空间Ｘ。＋Ｋ 一 （Ａ，ｒ。）寻找方程组（１．１）的 △ １’一 ２ 研一１ 近似解，超定方程组ｌ 。一Ｈ 一 ｙ Ｉｌｌ 的最小二 乘解只需作ｍ一１次Ｇｉｖｅｎｓ变换后即可求出，由 （２．１５）有 记 ｍ Ｏ ｙ曼一１一（Ｈ （ｍ一－ｌ ）－１△ 或 ， （３．３） Ｈ （ｍ一－１ ，６ １：△ （ｍ一－１ 甘Ｈ ｆｙＧ １Ｊ ｆ—Ｆ／ｏ、 Ｊ （ｍ－”１ ’ （３．４） Ｐ 一 其中 Ｓｍ ｍ ｆ ｍ＋１ Ｈ （ｍ１ －＝ ，△ （ｍ－１ 一 ２ （３．６） 为第 次Ｇｉｖｅｎｓ变换矩阵，ｃ ，Ｓ 表达式由 ｍ 式（２．１０）给出．则对Ｈ 变换后，分别化为 ，△ 第ｍ次Ｇｉｖｅｎｓ Ｈ 一 ｒｍ－－１ｍ－１ ．ｒｍ－－１，ｍ ｈ （ｍ － ’ Ｈ 一 故ＧＭＲＥＳ算法在Ｘ。＋Ｋ 一 （Ａ，ｒ。）子空间 上求得方程的近似解ｘ 一 为： Ｘ三一 一Ｘ。＋Ｖ 一 ｙ 一 １ １０ Ｇ－－－Ｘ ｏ＋Ｖｍ－－１， ｌ ０ Ｊ ＝］ （３．５） △ ：＝＝ ２ Ｘ ｏ＋Ｖｍ ｆ Ｇ＿１ ｌ ０ ｊ 卅１ ｃｍ ｍ 其次，考查ＧＭＲＥＳ算法在子空间ｘ。＋ 一５ Ｋ （Ａ，ｒ。）寻找方程组（１．１）近似解的情况．对于 超定方程组ｌ ｌ一Ｈ ｙ ｌ ｌｚ的Ｈ ，（ｐｅ ），作ｍ一 其中ｒ 一 （３．７） １次Ｇｉｖｅｎｓ变换后分别化为如下矩阵与向量： ，于是超定 方程组ｌ ｌ一Ｈ ｙ Ｉ ｌｚ的最小二乘解ｙ 一 （Ｈ ） △ 等价于 ｌ Ｈ 一 ｒｍ－－１．ｍ－－１ ｒｍ－－１．ｍ ２ ｈ （ｍ － ｈｍ＋１． ［ｙＧ…］一 ： ｍ－－１ ｌｃｍ ｍ ｌ （３．８） ６４ ２０１４年第１期 桂林航天工业学院学报 吴果林 李修清，、 （总第７３期） ＪＯＵＲＮＡＬ ０Ｆ ＧＵＩＬＩＮ ＵＮＩＶＥＲＳＩＴＹ ０Ｆ ＡＥＲ０ＳＰＡＣＥ ＴＥＣＨＮ０Ｌ０ＧＹ 王彦辉 周立新／叉 一 １ ０ ＋圳一ＡＩ （ｍ－１］ｌ ． 臼 其中ｓ ２＋ｃ 一１．再由式（３．９），有 ｙ 一 Ｉ ０ 卜 ＩⅢ 由式（３．５）、（２．１）及（２．７）即有式（３．１）成立， 从而有式（３．２）成立．证毕． 由定理３．１的证明不难发现，ＧＭＲＥＳ算法在 、 子空间Ｘ。＋Ｋ 一 （Ａ，ｒ。）的误差为 ，若子空间 扩张到ｘ。＋Ｋ （Ａ，ｒ。）时算法的误差为一ｓ ， ｒｌｌ ｒ１２， ．， 即ＧＭＲＥＳ算法的误差有下列关式成立 ＋１＝＝＝一ｓ ， （仇一１，２，…，ｎ一１） 甘 （３．１２） 由于ｌ ｓ １≤１，故ＧＭＲＥＳ算法随着Ｋｒｙｌｏｖ子 空间维数增加算法误差逐渐减少．另外，从定理３．１ 的证明还可以得出，若５ 一０，则ＧＭＲＥＳ算法在 Ｘ。＋Ｋ （Ａ，ｒ。）上得到方程组（１．１）的精确解．上 述分析表明，可以通过观察ｓ 的值作为算法停止 的条件构造一个自适应的ｍ维的Ｋｒｙｌｏｖ子空间 ＧＭＲＥＳ算法． 记ｙ ，ｙ 分别表示ＦＯＭ与ＧＭＲＥＳ算法误 ｙ 一 ］． 。 差范数，关于两者之间的关系，有下面的定理． 定理３．２ 假设Ａｒｎｏｌｄｉ算法迭代到第ｍ步， Ｈ 为非奇异，则ＦＯＭ与ＧＭＲＥＳ算法在子空间 Ｘ。＋Ｋ （Ａ，ｒ。）生成解的误差范数满足下列等式 ）， 一ｆ Ｃ Ｉ ｙ （３．１３） 证明：对式（３．２）两边与ｒ 作内积，有 （ｒ ，ｒＧ ）一ｓ （ｒ ，ｒＧ 一１）＋ｆ ２（ｒ ，ｒ ）． （３．１４） 甘 ｙ 一 ］． 对于（ｒ ，，．Ｇ 一 ），由式（２．１６），可得 （ｒ ，ｒ 一 ）一Ｐ Ｑ Ｖ Ｖ ＋ （Ｑ ） ＋ ｅ ＋１ ］＇ （ １ ２…口 Ｖｍ＋１）（Ｑ ）Ｔ３ ＋１ ｝１ Ｈ～（ｍ－－１） ２ Ｆ一 ， 一Ｐ Ｑ （Ｉ ，Ｏ）（Ｑ ） 卅１ Ｐ １． 由式（２．９）、（２．１１）知， 一 ＋ Ｑ ＝Ｐ ’Ｐ ”Ｐ ， Ｉ ０ Ｉ （Ｑ ） 一（Ｐ 。） （Ｐ ） …（Ｐ ） ’— ＋ ”］， ＝［‘Ｐ吉 ；］［‘Ｐ詈 ；］…［‘Ｐ ” ；］ｃＰ ２０１４年第１期 （总第７３期） 桂林航天工业学院学报 吴果林 ／文 Ｊ ０ｕＲＮＡＬ ０Ｆ ＧｕＬＩＮ ＵＮＩｖＥＲｓＩＴＹ ０Ｆ ＡＥＲ０ｓＰＡＣＥ ＴＥＣＨＮ（）Ｌ０ＧＹ 王彦辉 故 （ｒ ，ｒＧ 一 ）一Ｐ Ｑ （Ｉ ，０）（Ｑ 。） （Ｐ ） ０ Ｏ １ ｍ＋１ ｅｍ＋１ 即 （ｒ ，ｒ Ｆ）一ｃ ｌ ｌｒ ｌｌ；一ｃ （ｒ ，ｒ Ｆ）． （３．１７） １ （Ｐ ０ｎ－ ） ０ ０ ＝＝＝８ Ｔ Ｐ （ｍ－ …Ｐ２ （ ，Ｏ） （Ｐ ） ＋１ｅ ＋１ 将式（３．１６）、（３．１７）代入式（３．１４），整理得 （ｒ ，ｒＧ ）一ｃ ２ （ｒ ，ｒＦ ） ：Ｐ Ｔ Ｐ （Ｐ ） （Ｐ ） ０ …Ｐ （Ｉ ，０） Ｏ １ （Ｐ ”） ０ １ １ ∞ｌ１ ｒ ｌｌ 一ｌ ｃ …ｒ ｌ ，ｌ 即ｙ 一ｌ Ｃ ｌ ｙ 成立．证毕． 显然ｌ ｃ Ｉ≤１，则ｙ ≤）， ，故在相同的子空 ＋１ｅ ＋ｌ 间Ｘ。＋Ｋ （Ａ，ｒ。）内，ＧＭＲＥＳ算法解的误差比 一Ｐ （Ｉ ，Ｏ）（Ｐ １） ＋１ｅ ＋１ ＦＯＭ算法要少，即ＧＭＲＥＳ算法解的质量优于 ＦＯＭ算法． 一 ｍ＋ｌｅｍ＋１ ４ 结论 Ｃｍ——Ｓｍ 作为Ｋｒｙｌｏｖ子空间类方法中两个作重要的算 一 （０ … ｃ 一ｓ ） ｅ ＋１ ＋１ 法，ＦＯＭ与ＧＭＲＥＳ算法一直是人们研究的热 ＝一Ｓ ＋１． 点。文章在ＦＯＭ与ＧＭＲＥＳ算法误差分析基础 将式（３．１２）代人上式，得（ｒ ，ｒＧ ）一 。，即 上，推导了两个算法之间的误差关系，结果表明：在 （ｒ曼，ｒ 一 ）一 相同的Ｋｒｙｌｏｖ子空间，ＧＭＲＥＳ算法给出的解优于 一ｌＩ ｒ （３．１６） ＦＯＭ算法．此外，我们还发现：随着Ｋｒｙｌｏｖ子空间 一（ｒ ，ｒＧ ）． 的扩张，ＧＭＲＥＳ算法计算量与存储量只是线性增 对于（ｒ ，ｒ Ｆ），由引理２．１、２．２，有 长，而其误差逐渐减少，且由于在计算过程中预先 （ｒＧ ，ｒＦ ）一一ｈｍ＋ｌ求得相邻的两个Ｋｒｙｌｏｖ子空间ＧＭＲＥＳ算法解的 ，ｍＰ ｙ Ｆ Ｔ＋１Ｖ ＋１（ｐｅ１一Ｈ ｙ ） 误差系数，故可以设计一个自适应的ｍ维的 一一ｈ ＋１． ｇ Ｔｙ Ｆｅ Ｔ＋１（ｉｆｅｌ—Ｈ ｙ ） Ｋｒｙｌｏｖ子空间ＧＭＲＥＳ算法，增加算法的灵活性， ：一ｈ ＋ｌＰ ｙ （Ｏ—ｈ ＋ｌ， Ｔ』 Ｇ） ， 对于ＧＭＲＥＳ（ｍ）算法子空间大小ｍ的选择具有 一ｈ ２ ＋１． Ｐ ｙ￡Ｐ ｙ 十分重要的参考价值。 一ｈ Ｐ ｙＦ Ｔ｛ Ｓ 一 ＋ｆ ｙ ｝ Ｏ ：ｃ ． Ｐ二ｙ ｇ ｙ ， 参考文献 ［１］ Ｍ．Ｒ．Ｈｅｓｔｅｎｅｓ，Ｅ．Ｌ．Ｓｔｉｅｆｅ１．Ｍｅｔｈｏｄｓ ｏｆ Ｃｏｎ］ｕｇａｔｅ Ｇｒａｄｉｅｎｔｓ ｆｏｒ Ｓｏｌｖｉｎｇ Ｌｉｎｅａｒ Ｓｙｓｔｅｍｓ［Ｊ］． Ｊｏｕｒｎａ１ ｏｆ Ｒｅｓｅａｒｃｈ ｏｆ ｔｈｅ Ｎａｔｉｏｎａ１ Ｂｕｒｅａｕ ｏｆ Ｓｔａｎｄａｒｄｓ，１９５２，４９（６）：４０９—４３６． ［２］ Ｙ．Ｓａａｄ．Ｋｒｙｌｏｖ ｓｕｂｓｐａｃｅ ｍｅｔｈｏｄｓ ｆｏｒ ｓｏｌｖｉｎｇ ｌａｒｇｅ ｕｎｓｙｍｍｅｔｒｉｃ ｌｉｎｅａｒ ｓｙｓｔｅｍｓ［Ｊ］．Ｍａｔｈｅｍａｔｉ ＣＳ ｏｆ Ｃｏｍｐｕｔａｔｉｏｎ，１９８１，３７（１５５）：１Ｏ５—１２６． Ｅ３］ Ｙ．Ｓａａｄ ａｎｄ Ｍ．Ｈ．Ｓｃｈｕｌｔｚ．ＧＭＲＥＳ：Ａ ｇｅｎｅｒａｌｉｚｅｄ ｍｉｎｉｍａｌ ｒｅｓｉｄｕａｌ ａｌｇｏｒｉｔｈｍ ｆｏｒ ｓｏｌｖｉｎｇ ｎｏｎ— ｓｙｍｍｅｔｒｉｃ ｌｉｎｅａｒ ｓｙｓｔｅｍｓ［Ｊ］．ＳＩＡＭ Ｊ．Ｓｃｉ．Ｓｔａｔ．Ｃｏｍｐｕｔ．，１９８６，７（３）：８５６—８６９． ［４］ Ｈ．Ａ．Ｖａｎ ｄｅｒ Ｖｏｒｓｔ，Ｋ．Ｖｕｉｋ．ａ ｆａｍｉｌｙ ｏｆ ｎｅｓｔｅｄ ＧＭＲＥｓ ｍｅｔｈｏｄｓ［Ｊ］．Ｎｕｍｅｒｉｃａｌ Ｌｉｎｅａｒ Ａｌｇｅｂｒａ ｗｉｔｈ Ａｐｐｌｉｃａｔｉｏｎｓ，１９９４，１（４）：３６９－３８６． ［５］ Ｙ．Ｓａａｄ．Ａ ｆｌｅｘｉｂｌｅ ｉｎｎｅｒ—ｏｕｔｅｒ ｐｒｅｃｏｎｄｉｔｉｏｎｅｄ ＧＭＲＥｓ ａｌｇｏｒｉｔｈｍ［Ｊ］．ｓＩＡＭ Ｊｏｕｒｎａｌ ｏｎ Ｓｃｉｅｎｔｉｆｉｃ Ｃｏｍｐｕｔｉｎｇ，１９９３，１４（２）：４６１—４９１． ［６］ Ｅ．ｄｅ Ｓｔｕｒｌｅｒ．Ｎｅｓｔｅｄ Ｋｒｙｌｏｖ ｍｅｔｈｏｄｓ ｂａｓｅｄ ｏｎ ＧＣＲＥＪ］．Ｊｏｕｒｎａｌ ｏｆ Ｃｏｍｐｕｔａｔｉｏｎａｌ ａｎｄ Ａｐｐｌｉｅｄ ６６ ２０１４年第１期 桂林航天工业学院学报 吴果林 王彦辉 ＧＵＩＬＩＮ ＵＮＩＶＥＲＳＩＴＹ ０Ｆ ＡＥＲ０ｓＰＡＣＥ ＴＥＣＨＮ０Ｌ（ （总第７３期） ＪＯＵＲＮ￣６ ＯＦ 翥 ／文 Ｍａｔｈｅｍａｔｉｃｓ，１９９６，６７（１）：ｌ５—４１． ＧＭＲＥＳ方法的收敛率［Ｊ］．高等学校计算数学学报，２００３，２５（３）：２５３—２６０． ［７］ 钟宝江．．Ｏｎ ｔｈｅ ｃｏｎｖｅｒｇｅｎｃｅ ｂｅｈａｖｉｏｒ ｏｆ ｔｈｅ ｒｅｓｔａｒｔｅｄ ＧＭＲＥＳ ａｌｇｏｒｉｔｈｍ ｆｏｒ ｓｏｌｖｉｎｇ ｎｏｎｓｙｍ— ［８］ Ｗ．Ｊｏｕｂｅｒｔｍｅｔｒｉｃ ｌｉｎｅａｒ ｓｙｓｔｅｍｓ［Ｊ］．Ｎｕｍｅｒｉｃａｌ Ｌｉｎｅａｒ Ａｌｇｅｂｒａ ｗｉｔｈ Ａｐｐｌｉｃａｔｉｏｎｓ，１９９４，１（５）：４２７—４４７． －ｈａｏ Ｃａｏ．Ａ ｎｏｔｅ Ｏｎ ｔｈｅ ｃｏｎｖｅｒｇｅｎｃｅ ｂｅｈａｖｉｏｒ ｏｆ ＧＭＲＥＳ［－Ｊ］．Ａｐｐｌｉｅｄ Ｎｕｍｅｒｉｃａｌ Ｍａｔｈｅｍａｔ— ［９－Ｉ ｚｈｉ－ｉｃｓ，１９９７，２５（１）：１３－２０． ｏｖ子空间对ＧＭＲＥＳ（ｍ）算法收敛速度的影响［Ｊ］．广西科学， ［１０－］ 吴果林，王晟．误差向量与Ｋｒｙｌ２０１１，１８（３）：２１４－２１９． Ｅ．Ａｒｎｏｌｄｉ．Ｔｈｅ ｐｒｉｎｃｉｐｌｅ ｏｆ ｍｉｎｉｍｉｚｅｄ ｉｔｅｒａｔｉｏｎ ｉｎ ｔｈｅ ｓｏｌｕｔｉｏｎ ｏｆ ｔｈｅ ｍａｔｒｉｘ ｅｉｇｎｖａｌｕｅ ｐｒｏｂ— ［１１］ Ｗ．ｌｅｍ［Ｊ］．Ｑｕａｒｔ Ａｐｐ１．Ｍａｔｈ，１９５１，９：１７—２９． （责任编辑陈葵唏） ６７
