非线性拟合方法

上海交通大学物理系徐少锋2011.7.281（共4页）检验非线性回归的Newton-Rapson优化算法1.问题的提出假设被解释变量Y与单自变量X之间具有某种统计关系或统计模型()，（1）其中X是自变量，p是统计关系的参数（假设有M个），是统计残差。在统计实验中，我们获得N个采样点X……Y…………我们必须且只能通过这N对数据点去确定上述统计关系。因为多数情况下我们不知道上述统计关系的确切形式，所以我们是先猜测一种统计关系，然后使用检验或最大似然检验的方法判断这种统计关系的合理性。检验定义统计量∑(())，（2）因而我们就可以计算某种模型()的拒绝域或置信度。但实际上，我们是将回归分析问题转化为最优化问题来处理的，即求解一组参数p使得统计量取得极小值。在Y服从高斯分布的条件下，统计量服从()分布，因此在采样时数据点数目必须大于统计模型参数数目，即。2.Newton-Rapson方法2.1Newton-Rapson使用Newton-Rapson方法，求解参数p使得统计量取得极小值，目标函数是()()()，（3）上海交通大学物理系徐少锋2011.7.282（共4页）我们最终要求解的量是参数[]，（4）2.2迭代过程（1）给定初始参数p计算目标函数值(一个离散序列)()，（5）写为一维序列𝐎𝐅[][()()]。（6）（2）计算雅克比矩阵()()|，（7）写为矩阵形式𝐉[][()()()()]。（8）（3）估计参数p的变化()。（9）（4）收敛判断如果||，（10）则结束迭代；如果上海交通大学物理系徐少锋2011.7.283（共4页）||，（11）则继续一下过程。（5）计算新的参数值。（12）（6）返回第（1）步。2.3参数误差估计假设通过迭代过程我们找到了一组最优参数解，用大写字母P表示[]，（13）参数P的协方差矩阵（covariancematrix）()，（14）反映了参数的拟合误差，其主轴元素的根值()√，（15）给出了某一参数的统计标准差，如果假设参数服从高斯分布，则（15）给出的就是高斯分布的标准差（置信度68%）。再如果实验观察值（X，Y）和参数P是通过物理过程必然联系起来的，那么（15）给出的误差估计在重建（X，Y）时是可以接受的，反之虽然有其统计合理性，但就物理意义上就有待商榷。3.统计模型3.1星系团密度径向分布的单模型星系团气体密度径向分布的单模型[()]，(16)其参数为()，迭代过程中的雅克比矩阵具有解析形式，这因为容易求得单β函数对参数的偏导数。上海交通大学物理系徐少锋2011.7.284（共4页）{[()][()][()][()](17)