优化设计课程总结

NO：1机械最优化设计电子科技大学，2009年5月教学课件NO：2机械最优化设计最优化设计的基本概念1、设计变量最优化设计的维数最优化设计方案n维实空间n维欧氏空间设计空间直接探索法nRnE第一章概述NO：31x3x2xKX1KXK(K+1)KKSKKKKSXX1机械最优化设计NO：4机械最优化设计2、目标函数单目标函数与多目标函数等值线、等值线簇和等值面3、约束条件显约束与隐约束可行域与非可行域可行点、非可行点和边界点起作用约束或紧约束NO：5机械最优化设计4、机械优化设计的步骤建立优化设计的数学模型选择优化设计方法编制优化设计程序（或借用商用软件，如MATLAB）求解优化结果分析优化结果NO：6机械最优化设计第二章数学分析基础1、目标函数的泰勒表达式)0()0(2)0()0()0()0()(21)]([)()(XXXfXXXXXfXfXfTT2、函数的方向导数和梯度SXfXfSXfSfSX)()(lim)()0()1(0)0()0(cos)()()0()0(XfSXf几种特殊函数的梯度NO：7机械最优化设计3、无约束目标函数的极值点存在条件一元函数极值点存在的充分必要条件二元函数极值点存在的充分必要条件n维设计问题极值点存在的充分必要条件a.在点M处函数的梯度为零向量b.在点M处Hessian矩阵为正定或负定c.为正定时，M为极小点MH为负定时，M为极大点MHNO：8例2-5试证明函数在点(2,4)处具有极小值。542)(1222122141xxxxxxXf解：4244121311xxxxxf221222xxxf2412121212xxxf11222124xxxfxxf2222xf将代入，得：4,221xx021xfxf必要条件成立28834244241211121xxxxHM为正定，充分条件成立故点(2,4)处有极小值。机械最优化设计NO：9机械最优化设计4、函数的凸性与凸函数全域最优点与局部最优点凸集、凸函数函数的凸性条件5、目标函数的约束极值问题约束最优点与自然极值点K-T最优胜条件与K-T点NO：10例2-7证明函数在是一凸函数。60410)(21212221xxxxxxXf2,1,,21ixxxDi证：1,2,2122212222212xxfxxfxfxf代入Hessian矩阵：2112)(2Xf该Hessian矩阵为正定矩阵，故该函数为严格凸函数。机械最优化设计NO：111x2x)0(X)1(X)2(X)3(X机械最优化设计第三章一维探索最优化方法NO：12机械最优化设计1、探索区间的确定外推法hxalk1)(2hxblk1)(2进退法若，则前进计算；若，则后退计算。)()(00hff)()(00hffNO：13机械最优化设计2、切线法（牛顿法）y*)()()('kkSXfy)2()0()1()()0('fabNO：14机械最优化设计3、Fibonacci法与黄金分割法(0.618法)序列消去原理Fibonacci法)()(00100020)1(1abFFbabFFannnn)(0010)2(1abFFann黄金分割法)(618.01abb)(618.02abaNO：15机械最优化设计4、二次插值法和三次插值法二次插值法是使拟合曲线通过原函数曲线的三个点。三次插值法使使拟合曲线通过原函数曲线的两个点并使该两点处的一阶导数保持不变。5、平分法和格点法NO：16机械最优化设计第四章无约束多维问题的最优化方法间接求优法（解析法）直接求优法消去法爬山法爬山方向跨步步长1、概述NO：17机械最优化设计2、坐标轮换法每轮依次只对一个变量进行一维探索，其它变量固定不动。经若干轮后，找到全域的最优点。1x2x)0(x)1(1x)1(2x)2(1x)2(2xNO：18机械最优化设计当目标函数的等值线为圆形或长短轴都平行于坐标轴的椭圆时，两次可达到极值点。当长短轴与坐标轴斜交时，收敛速度慢。当等值线出现与坐标轴斜交的“脊线”时，将无法收敛。4、效能问题NO：19机械最优化设计3、最速下降法取为负梯度方向的单位向量：)(kS)()()()()(kkkXfXfS)()(kXf)()()()()()()1(kkkkkXfXfXX探索方向迭代公式收敛条件NO：20机械最优化设计4、牛顿法及阻尼牛顿法牛顿方向)()(kXf探索方向迭代公式收敛条件)()]([)(1)()()()1(kKkkkXfXHXX)()]([)(1)()(kKkXfXHSNO：21X平面上、是关于正定矩阵A的共轭方向机械最优化设计5、共轭梯度法目标函数在极值点附近的性质共轭方向的定义021ASST共轭方向的性质U平面上两个正交方向、。2p1p2S1SNO：22机械最优化设计共轭非零向量组的重要性质性质3与性质4共轭梯度算法探索方向迭代公式收敛条件2)(2)1()()()(kkkXfXf)()()1()1()(kkkkSXfS)()()()1(kkkkSXX2)1()(kXfNO：23机械最优化设计6、共轭方向法)1(0X)1(1X)1(2X)1(1S)1(2S)1(S)1(3X)2(1X)2(2X)2(1S)2(S)2(2Sa)与是连线方向;b)是新一轮的出发点。c)在第二轮中，方向被舍弃。)1(S)2(S)1(3X)1(1S很明显，与是关于A的共轭方向。)1(S)2(SNO：24机械最优化设计7、Powell法“退化”现象“最相互共轭”的判别标准及具体判别方法)(1kS原共轭方向法：去掉Powell法：去掉)(kmS新方向组为：)1,2,1()(1)1(niSSkiki)(1)1(knknSS新方向组为：)()()1(miSSkiki)(1)1(knknSS)()(1)1(miSSkikiNO：25机械最优化设计8、变尺度法变尺度矩阵校正公式DFP算法与BFGS算法9、单纯形法四种步骤：反射、扩张、压缩和减小棱长初始单纯形的构造收敛性检查21112)(2)()()(11njknkjXfXfnNO：26机械最优化设计第五章无约束多维问题的最优化方法1、随机实验法在上、下界范围内进行分批抽样，每批包括n个可行点；按目标函数值排队；确定新的取值范围：前P个最好点。2、随机方向探索法初始点、探索方向、探索步长都随机选择来决定。NO：27机械最优化设计设为函数值最小的点；1x2x)0(X)1(X)2(X)(LX则探索方向为：)0()()0(XXSL可得：)()0()()0()1(XXXXL)()()0()1(XfXf)(LXNO：28机械最优化设计3、复合形法初始复合形替换点计算反射点计算不可行点的调整NO：29机械最优化设计沿可行下降方向进行一维最优化探索；沿可行下降方向从一个约束面到另一约束面；沿约束面进行探索。4、可行方向法可行方向探索路线可行下降方向的产生方法随机法线性规划法投影法NO：30机械最优化设计5、简约梯度法简约梯度)(NXr)()()()(1XfCBXfXrBNXTXN探索方向的确定)(0,,kNjkNjXrP时当0)(,0,,kNjkNjXrX除以上情况外kNkBCPBP,1,kNkBkPPP,,)(NO：31机械最优化设计步长的取值范围0min)()()(maxkjkjkjPPxmax0收敛条件)()1(kkXX)(kP或NO：32机械最优化设计6、广义简约梯度法简约梯度)f(X)h(X)h(X)f(X(k)B(k)N1)()(,)(kBkNkNXr探索方向的确定)(0,,kNjkNjXrP时且当0)(,,,kNjNjkNjXrLX除以上情况外时且当0)(,,,kNjNjkNjXrUX收敛条件)(kPNO：33机械最优化设计7、线性逼近法eEXbAXtsXXfTDX..)]([min)0(设其最优解为，则)0(Y1)若则也是以上问题的最优解，停止迭代。0][)]([)0()0()0(XYXfT)0(X2)若则是f(X)在处的下降方向，故应从点出发沿此方向进行一维索。0][)]([)0()0()0(XYXfT)0()0(XY)0(X)0(XNO：34机械最优化设计8、惩罚函数法外点法)()(),(XMPXfMXFliMjjiXhXgMXf1122)]([))](,0[max()(内点法liikkXgrXfrXF1)(1)(),(内外点混合法mjjkliikkXhrXgrXfrXF121)]([1)(1)(),(NO：35机械最优化设计9、拉格朗日乘子法等式约束问题PvvvXhXfXL1)()(),(极值点存在的必要条件：PvLnixLvi,2,10,,2,10NO：36机械最优化设计不等式约束问题211)()()(),(vvmPPvvPvvvwXgXhXfXLmPPPvwwLPvLnixLvvvvi,2,102,2,10,,2,10NO：37机械最优化设计10、增广拉格朗日乘子法惩罚项引入到拉格朗日函数中；M相对固定，调节拉格朗日乘子来进行迭代；惩罚函数与拉格朗日函数相结合。PvvkPvvvkXhMXhXfMXA12)(1)()()()(),,(PvvkXhMXL12)()(),(增广拉格朗日函数等式约束问题NO：38机械最优化设计迭代公式：01,,2,1)(2)()()()()1(kvkvkkvkvkPvXhM时，终止准则：PvXhXfXfPvkvkkkvkv,,2,1)()()(,,2,12)1(1)()1()()1(NO：39机械最优化设计muukmuuukMXfMXA12)(1)()(),,(增广拉格朗日函数不等式约束问题)(22),(max)(kuuuuMXgwXgNO：40机械最优化设计其增广拉格朗日函数为：pvpvvkvvmuukmuuukXhMXhMXfMXA112)(12)(1)()()()(),,(拉格朗日乘子的迭代公式为：muMXgMkukkuku,,2,12),(max2)()()()1(pvXhMkvkkvkv,,2,1)(2)()()()1(即有不等式又有等式约束的问题NO：41机械最优化设计第六章多目标函数的最优化方法nibxalvXhmuXgtsXfXfXfExxxXiiivuqnTn,,2,1,,2,10)(,,2,10)(..)(min)(min)(min2121数学模型可概括为：NO：42机械最优化设计一、最优解与选好解、劣解与非劣解：劣解：除去非劣解的其它解，即为劣解。选好解：非劣解中，满足工程实用目的的最好解。最优解：使