第2篇第2章优化设计的理论与数学基础

1第二篇机械优化设计第二章优化设计的理论与数学基础2.1目标函数的泰勒(Taylor)展开式2.2目标函数的等值线(面)2.3无约束目标函数极值点存在充要条件2.4凸集与凸函数-最优值条件2.5约束极值点必要条件2二元二次函数2212112212()(,)abFXFxxxxcdxxxexf令:12,xXx22,abAbc,dBeCf则:1()2TTFXXXCXAB梯度:()BFXXA11221222()22xaxbxdabdFXAXBxbxcxebce验证:二次函数的矩阵表示方法(补充)其中：:1121222()2FxaxbxdFXbxcxeFx3二次函数的矩阵表示方法(补充)例题:将F(X)=x12-2x1x2+x22-8x1+9x2+10写成矩阵表示式，并求其梯度。解:2222A89B10C1()2TTFXXAXBXC1112222218910222xxxxxx112212228228()229229xxxFXAXBxxx验证:'121'122228()229xxxxFFXxxF42.1目标函数的泰勒(Taylor)展开式工程实际中的优化设计问题，常常是多维且非线性函数形式，一般较为复杂。为便于研究函数极值问题，需用简单函数作局部逼近，通常采用泰勒展开式作为函数在某点附近的近似表达式，以近似于原函数。一元函数f(x)在x(k)点的泰勒展开式：()()()()()2()()()1()()()()()()2!1()()!kkkkknkknnfxfxfxxxfxxxfxxxRn()()()()()21()()()()()()2!kkkkkfxfxfxxxfxxx(1)()1()()(1)!nknRfxxnξ在x与x(k)之间5二元函数F(X)=F(x1,x2)=在X(k)=[x1(k)x2(k)]T点的泰勒展开式为：2()()()11221222()2()21122221()()()()1()()2!kkkkknFFFxFxxxxxxxFFxxxxRxx()()11()1222222()112()()111122()22222122()()()()()1()()2()kkkkkknkxxFFFxFxxxxxFFxxxxxxxxxRxxFFxxx矩阵形式：6()()()112222()()()1111212222()()()()1()2()()2k'k'kxxkkkxxxxxxFXFXFXxFXxFXxFXxxFXx22112211112122221()22''kxxxxxxxxFXFFxFxFxFxxFx矩阵形式11111212122221221()2''xxxxkxxxxxxxxFFFXFFFxxxxFF72.1目标函数的泰勒(Taylor)展开式二元函数F(X)=F(x1,x2)=在X(k)=[x1(k)x2(k)]T点的泰勒展开式为：11111212122221221()2''xxxxkxxxxxxxxFFFXFFFxxxxFF海赛矩阵1()2TTkkFXFFXXHX8多元函数F(X)在X(k)=[x1(k)，x2(k)，xn(k)]T点的泰勒展开，只取二次项，函数的近似表达为：11121()2122212......()...............xxxxxxnkxxxxxxnkxnxxnxxnxnFFFFFFHHXFFF(二阶偏导数矩阵)n×n阶的对称方阵xixjxjxiFF1()2TTkkFXFFXXHX1212(),TnnFxFxFFFFXxxxFx一阶偏导数矩阵称为函数在K点的梯度：其中：12[,,]TnXxxx9称为函数在点的梯度。梯度是一个向量，其方向是函数在点处数值增长最快的方向.()()()()12()()()(),,TKKKKnFXFXFXFXxxx()()KFX)(KX)(KX102.2目标函数的等值线(面)在n维设计空间的任一点x有确定的函数值F；对于某一确定的函数值将有若干个设计点xi与之对应1112函数的极值与极值点2.3无约束目标函数极值点存在充分必要条件13极值点存在条件一元函数的情况极值点存在的必要条件的点称为驻点，极值点必为驻点，但驻点不一定为极值点。极值点存在的充分条件若在驻点附近0*)('xF0*)('xF点为极大点则*0)(*''xxF点为极小点则*0)(*''xxF14(一)极值存在的必要条件:各一阶偏导数等于零'1'*2'00()......0xxxnFFFXFH驻点二元函数的情况多元函数的情况:15(二)极值存在的充分条件:海赛矩阵H(X*)正定→点X*为极小点海赛矩阵H(X*)负定→点X*为极大点海赛矩阵H(X*)不定→点X*为鞍点海赛矩阵H(X*)正定→点X*为极小点证明:**1()()()2TTFXFXFXXHXX**1()()()2TTFXFXFXXHXX=0处处F(X)F(X*),故点X*为极小点二次型0若：16什么是正定、负定、不定矩阵？()FxxAx二次型函数：若对于任意不为零的x＝[x1x2…xn]，恒有F(x)0，则相应的系数矩阵A称为正定矩阵。恒有F(x)＝0，则相应的系数矩阵A称为半正定矩阵。恒有F(x)0，则相应的系数矩阵A称为负定矩阵。有些F(x)0，有些F(x)0，则相应的系数矩阵A称为不定矩阵。17正定、负定、不定矩阵的判定111212122212.....................nnnnnnaaaaaaAaaa①若各阶主子行列式均大于零→正定11110aa11121122122121220aaaaaaaa111212122212......0...............nnnnnnaaaaaaaaa②若各阶主子行列式如下→负定110a111221220aaaa1112132122233132330aaaaaaaaa......0③不是正定或负定→不定④各阶主子式大于等于零→半正定182.3无约束优化最优解的条件函数极值必要条件充分条件极小H(X*)正定极大H(X*)负定一元函数二元函数*()FXH*'()0fx*()0fx*()0fx'*1'20()0xxFFXF21122120xxxxxxFFF110xxF110xxF《高等数学》：设函数F(X)=F(x1,x2)在点X*的某邻域内连续且有一阶及二阶连续偏导数，在点X*有F'x1=0、F'x2=0，令：111222,,xxxxxxFAFBFC当20ACB时有极值0:0:AA极小极大2000ABACBBCA111221221100xxxxxxxxxxFFFFF*11122122()xxxxxxxxFFHXFF正定19极值存在的必要条件:各一阶偏导数等于零'1'*2'00()......0xxxnFFFXFH驻点极值存在的充分条件:海赛矩阵H(X*)正定→点X*为极小点11121()2122212......()...............xxxxxxnkxxxxxxnxnxxnxxnxnFFFFFFHXFFF各阶主子行列式均大于零→正定小结:无约束目标函数极值点存在条件20例题试判断X0=[24]T是否为下面函数的极小点：4222112121()245FXxxxxxx解：'3111210'221204424()022xxFxxxxFXFxx满足极值存在的必要条件2111212202122234812424()8242xxxxxxxxFFxxxHXFFx348340,342(8)(8)4082若各阶主子行列式均大于零→H(X0)正定X0是极小点21例：求解极值点和极值解的极值点必须满足：解此联立方程得：即点为一驻点。再利用海赛矩阵的性质来判断此驻点是否为极值点。362252)(21332232221xxxxxxxxXf024)(311xxxXf06210)(322xxxXf0222)(3213xxxxXf,1,121xx23xTX]2,1,1[*362252)(21332232221xxxxxxxxXf222(*)2(*)2(*)1112232(*)2(*)2(*)(*)2122232(*)2(*)2(*)313233()()()402()()()()0102222()()()fXfXfXxxxxxxfXfXfXHXxxxxxxfXfXfXxxxxxx11121121224040,400010aaaaa则23因此，海赛矩阵是正定的。故驻点为极小点。对应于该极小点的函数极小值为由:TX]2,1,1[*03161)2(2)2(12)2(1512)(222*Xf362252)(21332232221xxxxxxxxXf24设平面上有点的集合，在该集合中任意取两个设计点x1和x2，如果连接点x1与x2直线上的一切内点均属于该集合，则此集合称为x1ox2平面上的一个凸集，2.4凸集与凸函数25凸集的数学定义如下：对某集合内的任意两点x1与x2连线，如果连线上的任意点x均满足x＝αx1+(1-α)x2∈，则该集定义为一个凸集。26优化设计总是期望得到全局最优解局部最优解全局最优解2.4.2凸函数由前局部极小点与全局极小点:27凸函数—函数的凸性(单峰性)最优值(最小值)与极小值是有区别的,在什么情况下极小点就是最小点?极小值就是最优值?函数的凸性：实质就是单峰性。如果函数在定义域内是单峰的,即只有一个峰值,则其极大值就是全域内的最大值,则其极小值就是全域内的最小值28几何解释：数学定义：设F(x)为定义在n维欧氏空间中一个凸集上的函数，x1与x2为上的任意两设计点，取任意实数α，α∈[0，1]，将x1与x2连线上的内点x表达为：x＝αx1+(1-α)x2，如果恒有下式成立F[αx1+(1-α)x2]αF(x1)+(1-α)F(x2)则称函数F(x)为定义在凸集上的凸函数。29凸函数的判定若函数F(x)在凸集上存在二阶偏导数并且连续时