基于最小均方误差的Tikhonov正则化参数优化研究

基于最小均方误差的Tikhonov正则化参数优化研究摘要：本文首先介绍了求解病态方程的L-曲线法、GCV法等常用的方法，然后提出了基于最小均方误差的最优Tikhonov正则化求解参数的方法。通过仿真实验表明，本文提出的基于最小均方误差的Tikhonov正则化参数优化选择方法是一种可行有效的方法。关键字：Tikhonov正则化、均方误差、病态问题BasedontheminimummeansquareerrorofTikhonovregularizationparameteroptimizationresearchAbstract:ThispaperfirstintroducesthemorbidequationofL-curvemethod,GCVmethodsuchasthecommonlyusedmethod,andthenbasedontheminimummeansquareerroroftheoptimalTikhonovregularizationmethodtosolvetheparameter.ThroughthesimulationexperimentsshowthattheproposedbasedontheminimummeansquareerrorofTikhonovregularizationparameteroptimizationselectionmethodisafeasibleandeffectivemethod.Keywords:Tikhonovregularization,meansquareerror(mse),pathologicalproblems1引言求解线性不适定问题的正则化方法中，应用最广泛也最经典的是Tikhonov正则化方法[1]。随着各个领域中数据的处理中应用多种不适定问题的正则化方法，Tikhonov正则化方法是比较常见也是应用比较广泛的方法。该方法可以解决不同领域中不适定问题的纠正，地震中发射波长中的应用、电容层析成像图像重建、无线传感器网络实现监测和跟踪等病态问题中均可以应用Tikhonov正则化方法。本文通过对Tikhonov正则化方法中常见的L-曲线法和GCV法进行分析Tikhonov正则化方法的特点，通过L-曲线法和GCV法进行Tikhonov正则化方法参数的确定，从而确定基于最小均方误差的Tikhonov正则化优化参数，并通过仿真实验进行验证，从而确定基于最小均方误差的Tikhonov正则化优化参数可行。从而为更深入的研究提供可靠依据。2迭代Tikhonov正则化方法参数确定方法：目前正则化参数的选择有先验和后验两种方法。用先验法选择正则化参数时，都需要预先对于原始数据的误差水平做出估计，但在大多数情况下这是难以做到的。后验取法可以直接应用带有噪音的原始数据对正则化参数作出估计。2.1L-曲线法L-曲线法是一种较成熟的方法，L-曲线法是利用对数尺度来描述残差范数和解的限制范数的曲线对比，该方法的特征是对数尺度图形中出现明显的L形状曲线，曲线拐点所对应的正则化参数作为优化参数[2-3]。其以对数作μ=lgIIBXα-LIIP为横坐标，纵坐标为ν=lgIIXαIIk，同时采用α为参变量，从而形成类似“L”的形状，因此称为L-曲线法。参考文献[2]推算出L-曲线法数学公式为：其中。。μ、。μ、。。ν、。ν是二阶和一阶导数，L为观测向量，B为设计矩阵。通过这个计算公式就可以计算出α为参变量。2.2GCV法[4]GCV法是广义交叉验证算法的简称，可以用于求取正则化参数，也是采用α为参变量，α为参变量的计算公式：其中H(α)=B(BPB+αI)-1BP，tr(·)为矩阵的迹，L为观测向量，B为设计矩阵。3基于最小均方误差的Tikhonov正则化参数优化正则化参数α的估计公式的优化过程，通过大量公式的换算，从而最终确定正则化参数α的估计公式[5]。Gauss-Markon模型[6]为（1）从这个公式可以得到E（L）=BX，结合L-曲线法的公式（2）可以得到下面的公式：（3）当将R=（B、PB）-1B、PL，就可以得到估值与真值的偏差量的期望值β=E(X^-X)=EX^-X=E(RL)-X=RE(L)-X=-[Im-RB]X，参数估值方差阵（4）的公式，从这个公式就可以得到均方误差（5）为（4）（5）其中rank（X）=rank（XX'）=1，通过换算得到（6）于是就可以得到均方误差的公式：（7）在进一步优化，从而得到最后的正则化参数a的估计公式的优化公式：（8）通过这个正则化参数α就可以计算出公式中任何一个参数指标。4仿真实验与结果4.1基于本文方法的仿真试验与结果以某支架结构模型为例子进行分析，由三种类型钢材组成，槽钢、方钢和角钢，得到方程系数阵为：N=未知参数真值X=81，11.3，-48，40.5，-0.6111.3，122.6，-9.6，5.4，215.640.5，5.4，-23.7，20.3，-0.7111模拟真值L~=[-10.6，10.55，1.5，12.1，15.1，-0.11，21.2，1.7，9.2，11.9]，模拟观测值为L=[-10.3，10.4，1.6，12.2，14.1，-0.15，21.2，1.6，9.1，12.3]，从而得到Cond(N)=1.5×1061000，可见该方法的病态问题很严重，需要进行纠正，进行正则化参数α进行纠正处理。4.2与其他方法的比较对上述处理的病态数据进行正则参数优化方法、L-曲线法、GCV法、岭估计法进行纠正分析的比较，具体结果见表1，由表1可知采用正则参数优化方法计算得到的正则参数α是最小，而且ΔX数值也是最小，因此产生的误差也最小；而采用岭估计法得到正则参数α最大，而且得到ΔX数值也是最大，由此可见采用本文优化的Tikhonov正则化参数得到的正则参数α，而且ΔX数值也是最小，更适合实际的应用中的计算，而采用L-曲线法、GCV法得到正则参数α和ΔX的数值基本差不多，比正则参数优化方法差一些，比岭估计法要好一些。表1正则参数及ΔX的对比方法正则参数αΔX正则参数优化方法0.00680.0985L-曲线法0.2020.724GCV法0.1590.698岭估计法0.2990.7585讨论将Tikhonov正则化法应用于实际的应用的方法的研究比较多，张路寅[7]等人不适定问题的迭代Tikhonov正则化方法中说到对不适定问题也就是病态问题进行计算中推导出正则滤波函数的性质，通过公式的推算得出误差估计的收敛阶达到最优状态时得到的数据，比将参数α看作正则化参数更容易计算。并通过实例证实了该方法可以更好的解决实际中误差的计算，解决了Tikhonov正则化参数α计算的繁琐。余瑞艳[8]对基于混沌粒子群算法的Tikhonov正则化参数选取的分析中发现将混沌粒子群优化算法与Tikhonov正则化方法相结合，利用混沌粒子群优化算法的优势对Tikhonov正则化方法进行优化改进，并对实际的病态问题进行解决，证明了该方法是一种比较有效的数据处理方法。不同的理论得到的Tikhonov正则化法的参数计算公式不同，但是都是通过Tikhonov正则化法的优化从而得到更适合该领域的一些数据的处理，从而得到更简便的计算方法，更有效的利用于繁琐的计算中，对大量数据的处理提供简便的方法。数学物理反问题已成为计算数学与应用数学中发展和成长最快的研究课题，在解决这些病态问题的计算中，数学方法公式的应用也是被广泛应用的方法，而Tikllollov正则化方法的应用也是解决当前各个数据处理领域提供了一个很好的平台。Tikllollov正则化方法求解的精度很大程度上取决于正则化参数的选取，基于不同的理论得到的正则化参数不同，前面的研究中提到基于混沌粒子群优化算法可以得到简便的Tikllollov正则化方法正则化参数的计算公式，本文中得到的正则化参数是基于最小均方误差，得到的参数公式对计算一些实际的案例比较实用。但是不同Tikllollov正则化方法中优化的参数计算，要比常见的L-曲线法、GCV法、岭估计法等方法具有一定的优势，本文通过对比也证明了采用Tikllollov正则化方法中优化的参数公式计算参数α，可以更好的减少误差的发生。对于解非线性不适定问题如何使用进行Tikllollov正则化方法，也有笔者通过分析解决了这个问题，此学者采用对修正的三阶牛顿法进行Tikhonov正则化，从而得到新的迭代格式[9]，这样就可以很好的解决非线性不适定问题，但是此学者没有进行实际的仿真数据的验证试验，因此不能很好的证明此方法是否真的能解决解非线性不适定问题。因此对此问题需要深入的分析。杨润生[10]等人对一类非线性不适定问题的Tikhonov正则化的分析中发现利用双参数进行Tikhonov正则化的分析，引入了带闭线性算子，利用最小的问题进行逼近处理，从而得到双参数，但是此方法也没有进行试验的证明。也有学者[11]对线性问题进行Tikllollov正则化方法参数公式的选取，分析中基于阻尼Morozov差异原则进行Tikllollov正则化方法参数的选取，通过选取和试验证实采用方法得到的Tikllollov正则化方法参数对计算一些领域的误差具有一定的作用。朱南海[12]等人进行另一种方法的Tikllollov正则化方法参数的计算，基于遗传算法进行Tikllollov正则化方法参数的计算，此方法也是采用广义交叉准则(GCV)、L-曲线准则和Engl误差极小化准则为目标函数，基于遗传算法，从全域内获得正则参数的最优值。并进行了试验验证，验证了此方法得到的Tikllollov正则化方法参数的优化参数公式可以用于实际的误差计算，解决病态问题。其他人[13-14]也进行不同Tikllollov正则化方法参数的优化参数公式的选取，旨在为更好更简便的解决实际中的病态问题得到最佳的优化参数，目的也是减少实际中误差的存在。而且通过试验也对Tikllollov正则化方法参数的优化参数公式得到的数值进行证明，验证该方法的可行性和有效性。6总结本文通过大量的借阅其他学者的研究，从而得到基于最小均方误差的Tikhonov正则化参数优化的公式，从而为解决一些领域的病态问题具有很好的利用价值。在确定Tikhonov正则化参数时应用了观测值和真值，依据这些信息可以推导出均方误差最小的情况下计算正则参数值的数学公式，此数值不仅可以保证误差最小，而且避免了岭估计方法中的岭参数选取的主观性。更好的解决实际中的病态问题，通过试验也验证了此方法计算的参数值比较小，而且误差也比较小，明显比L-曲线法、GCV法、岭估计方法得到的数值有效。本文比较此方法这4种方法，得到的结果也证实了此Tikhonov正则化参数优化的公式更有效。由此可见，本文得到的Tikhonov正则化参数优化的公式可以用于病态问题的计算中，避免主观性产生的误差，此方法不仅简便，而且可以应用于不同领域的数据处理，从而解决出现的线性不适定问题和非线性不适定问题。参考文献[1]徐会林.一种选取线性不适定问题正则化参数的迭代算法[J].江西科学,2010,28(4):425-429.[2]HeinTorsten.Convergenceratesforregularizationofill-PosedProblemsinBanachsPacesbyaPProximatesourceconditions[J].InverseProblem,2008,24:l-10.[3]WangJiAn，LiJing，LiuZhen.HaiRegularizationmethodsfornonlinearill-Posedproblemswithaccretiveoperators[J].ActaMathematicascientia,2008,28B(l):141-150.[4]N.S.Hoang,A.GRamm.Aniterativeschemeforsolvingnonlinearequationswithmonotoneoperators[J].NumerM