第2章 优化设计理论基础概述

第２章优化设计的理论基础概述福建农林大学机电工程学院机械工程系12.1向量的若干概念2.2.1向量的表示方法（１）坐标表示式表示方法[]Txxxx2121=⎥⎦⎤⎢⎣⎡=p22.1向量的若干概念„2.2.1向量的表示方法„（１）坐标表示式表示方法推广到n维即P∈Rn时：Tnnxxxxxx],,,[2121#=⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡=p32.1.1向量的表示方法„（２）“单位向量——模”表示法„1)向量的模op的长度：2221xx+=Pα==∑=niix12P推广到n维（表示向量大小的标量）42.1.1向量的表示方法„（２）“单位向量——模”表示法„2)向量的方向余弦与单位向量„P的方向：„cosβ1=x1/op=x1/‖P‖„cosβ2=x2/op=x2/‖P‖„向量p的方向余弦：„cosβi=xi/‖p‖设向量：e=[cosβ1cosβ2]T=[x1／‖P‖x2／‖P‖]T＝P/‖P‖‖e‖＝‖P‖/‖P‖=1模为１的向量称为单位向量52.1.1向量的表示方法„（3）表示的向量方法„p=‖P‖/‖P‖․p„=‖P‖․p/‖P‖∵e＝P/‖P‖∴P＝‖P‖e——向量的“单位向量—模”表示法‖P‖--向量P的模（大小）e--向量P的单位向量—由方向余弦组成表示向量P的方向用于表示起点不定的向量（自由向量）62.1.2向量运算„（１）向量的和„---对应分量相加„1）设以原点起点的向量：„X(1)＝[x1(1)，x2(1)]T，X(2)＝[x1(2)，x2(2)]TX(3)＝X(1)＋X(2)＝[x1(1)+x1(2)，x2(1)+x2(2)]T72.1.2向量运算„（１）向量的和„---对应分量相加„2）设以原点起点的向量和自由向量：„X(1)＝[x1(1)，x2(1)]T，„X(2)＝αS„S＝[cosβ1，cosβ2]T„＝[s1，s2]T„X(3)＝X(1)＋X(2)„＝[x1(1)+αs1，x2(1)+αs2]T82.1.2向量运算„（2）向量的差--对应分量相减„（3）向量的点积„设向量„X=[x1，…，xn]T„Y=[y1，…，yn]T„θ为两向量的夹角。∑===•niiiyx1cosθYXYX定义：为向量X、Y的点积9２.2目标函数的性态分析基础„2.2.1目标函数的等值线（面）用某一平面f(X)=C1来横截这一曲面将二者的交线投影到设计平面x1ox2上等值线就是使f(x1，x2)保持为某一定值时的设计变量X的取值域概念１:概念２：n=3称为等值面，n3时，称为等值超曲面。统称等值面102.2.1目标函数的等值线（面）„等值线（面）的几个性质„(1)数值不相同的等值线（面）不相交；„(2)若目标函数连续，则等值线（面）不中断；„（3）常数C1、C2、C3、…的间隔相同时，等值线（面）愈密，目标函数值的变化愈大112.2.1目标函数的等值线（等值线（面）的几个性质）„（４）对于二元二次函数：„f(X)=ax12+2bx1·x2+cx22+…，„当a0，c0和ac-b20时，f(X)为椭圆抛物面，等值线为一族同心椭圆曲线122.2.1目标函数的等值线（等值线（面）的几个性质）„（５）数学上可以证明，，对于一般二元函数f(X)，在极值点附近，等值线近似为椭圆族13目标函数的等值线的应用142212111222123142min()44s.t.()20()10()0()0fxxxgxxgxxgxgx=+−+=−+−≤=−+≤=−≤=−≤xxxxx例：目标函数的等值线的应用„无约束最优解：X＝[2，0]T„约束最优解：„g2(X)=0与某一等值线的切点X*=[0.58，1.34]T15()(){}122122122122min21.5050,0xxstxxxxxxx⎧−+−⎪⎪+−=⎨+−≥⎪⎪≥⎩z解：①先画出等式约束曲线的图形。这是一条抛物线，如图052221=−+xxx例：例：z②再画出不等式约束区域，如图（选定哪侧区域）z③最后画出目标函数等值线，特别注意可行集边界点，x1x2%%%%⊥1⊥2⊥3⊥4⊥5⊥6135ABCD162122125050xxxxx⎧+−=⎨+−=⎩(41)TX∗=，()4fX∗=z得出：17x1x2%%%%⊥1⊥2⊥3⊥4⊥5⊥6135ABCD2.2.2目标函数的最速下降方向„（１）目标函数的梯度▽f(X)„目标函数f(X)对各个设计变量的偏导数所组成的列向量Tnnxfxfxfxfxfxff⎥⎦⎤⎢⎣⎡∂∂∂∂∂∂=⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣⎡∂∂∂∂∂∂=∇)(,,)(,)()()()()(2121XXXXXXX#18几种特殊向量函数的梯度计算式„①函数f(X)=BTX的梯度▽f(X)＝B„②函数f(X)=XTX的梯度▽f(X)＝2X„③函数f(X)=XTAX的梯度▽f(X)＝2AX⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=nnnnaaaaaaaaa###212n22211n1211A⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=nxxx#21X⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=nbbb#21B19（２）目标函数的方向导数„函数f(X)在已知点X(k)上沿方向S的导数为:22)(11)()(cos)(cos)()(ββxfxffkkk∂∂+∂∂=∂∂XXSX意义：函数在已知点上沿某一方向的变化率推广到n维则有:nnkiikkkxfxfxffβββcos)(cos)(cos)()()()(11)()(∂∂++∂∂++∂∂=∂∂XXXSX式中：βi为S与xi轴的夹角20方向导数的向量表达式„根据矩阵相乘原理和向量点积的定义nnkiikkkxfxfxffβββcos)(cos)(cos)()()()(11)()(∂∂++∂∂++∂∂=∂∂XXXSX[]Tnnkkxfxfββcos,,cos)(,,)(1)(1)(•⎥⎦⎤⎢⎣⎡∂∂∂∂=XX[])),(cos()()()()()(SXSXSXkkTkfff∇∇=•∇=)),(cos()()()()()(SXXSXkkkfff∇∇=∂∂21（３）目标函数的最速下降方向„分析方向导数的向量表达式：)),(cos()()()()()(SXXSXkkkfff∇∇=∂∂1)),(cos(1)(≤∇≤−SXkf因为所以可得：①目标函数的梯度方向，是函数值增长最快的方向。当S方向与梯度方向一致时，cos(▽f(X(k))，S)=1，方向导数有最大值。当S取梯度的反方向即负梯度方向时，cos(▽f(X(k))，S)=-1，方向导数有最小值。②函数在X(k)点上，沿着-▽f(X(k))的方向，其函数值下降最快。称负梯度[-▽f(X(k))]方向，为目标函数f(X)，在X(k)点上的最速下降方向。22梯度的几点性质„－▽f(X(k))是函数在X(k)点的最速下降方向23Ox2x1x0变化率为零的方向最速下降方向下降方向上升方向最速上升方向－∇f(x0)∇f(x0)梯度的几点性质„－▽f(X(k))是函数在X(k)点的最速下降方向„局部性质24由于梯度的模因点而异，即函数在不同点处的最大变化率是不同的。因此，梯度是函数的一种局部性质。)),(cos()()()()()(SXXSXkkkfff∇∇=∂∂梯度的几点性质„－▽f(X(k))是函数在X(k)点的最速下降方向„局部性质„任一点X(k)处的梯度一定垂直于过X(k)点的等值线的切线25例例：试求目标函数在点处的最速下降方向，并求沿这个方向移动一个单位长度后新点的目标函数值。()2221212143,xxxxxxf+−=[]00,1TX=()()12121264,42fXfXxxxxxx∂∂=−=−+∂∂()()()121211200121021644422xxxxfXxxxPfXxxfXx====∂⎡⎤−⎢⎥∂−++⎡⎤⎡⎤⎢⎥=−∇===⎢⎥⎢⎥⎢⎥+−∂⎣⎦⎣⎦−⎢⎥∂⎢⎥⎣⎦[]00,1TX=则函数在处的最速下降方向是•新点是这个方向上的单位向量是：解：由于10225505511151555XXe⎡⎤⎡⎤++⎢⎥⎢⎥⎡⎤=+=+=⎢⎥⎢⎥⎢⎥⎣⎦⎢⎥⎢⎥−−⎢⎥⎢⎥⎣⎦⎣⎦()()()()00224252514255fXefX+⎡⎤⎡⎤+⎢⎥⎢⎥−∇−⎣⎦===⎢⎥−∇⎢⎥++−−⎢⎥⎣⎦2.2.3多元函数的泰勒近似式„设多元函数f(X)在X(k)点至少有二阶连续的偏导数，在X(k)的足够小的邻域内将f(X)展成泰勒近似式，并且只取前二次项，可得：函数f(x)满足一定条件时，可应用泰勒公式，在某一给定点x(k)的足够小的邻域内，用一多项式来近似f(x)∑∑==ΔΔ∂∂∂+Δ∂∂+≈ninjijijikiikkxxxxfxxfff11,)(2)()()(21)()()(XXXX式中:njixxxxxxkjjjkiii,,1,),(),()()(=−=Δ−=Δ在表达式右侧中，除ΔxiΔxj项外，其余各项为函数在点X(k)处的函数值或一阶、二阶偏导数，xi的最高次幂为２，这表明f(X)在X(k)点附近，可用一个二次函数来近似。28泰勒近似式的向量矩阵表达式„称H(X(k))为海赛矩阵)()(2)(21)(2)(2)(21)(21)(21)(211)(2)(,)(,,)(,,)()(,,)(,,)()(,,)(,,)()(knnkinknknikjikiknkjkkkxxfxxfxxfxxfxxfxxfxxfxxfxxfXXXXXXXXXXXXXH−=Δ⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎢⎣⎡∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂∂=#令：f(X)≈f(X(k))+[▽f(X(k))]T△X+1/2△XTH(X(k))△X（为对称矩阵）29(1)12(1)2660120()06600xfx+⎡⎤⎡⎤∇==⎢⎥⎢⎥−+⎣⎦⎣⎦xx例题:(1)()3f=−x(1)211(1)2220369()336xxfxx+−⎡⎤⎡⎤∇==⎢⎥⎢⎥−+⎣⎦⎣⎦xx332212121()339fxxxxx=−++−xz用泰勒展开将函数(1)[1,1]T=x在点简化成线性函数与二次函数。(1)x解：函数在点的函数值、梯度和二阶导数矩阵：11(1)221111xxxx−⎡⎤⎡⎤⎡⎤−=−=⎢⎥⎢⎥⎢⎥−⎣⎦⎣⎦⎣⎦xxz简化的线性函数(1)(1)(1)22()()()[]33(1)36Tfffxx≈+∇−=−+−=−xxxxxz简化的二次函数(1)(1)(1)(1)2(1)(1)1()()()[][]()[]2TTfffxf≈+∇−+−∇−xxxxxxxxx2212112366(1)6123xxxxx=−+−=−+在n元函数中，除了线形函数：§§2.32.3.4.4二次函数及正定矩阵二次函数及正定矩阵()cxaxxxfniiin+=∑=121⎟⎟⎟⎟⎟⎠⎞⎜⎜⎜⎜⎜⎝⎛=nTaaaa#21外，最简单最重要的一类就是二次函数。或f(X)=aX+c()cxbxxgxxxfniiininjjiijn++=∑∑∑===1112121,,其中均为常数。jiijgg=若，X≠0，均有＞0，则称矩阵Q是正定正定的。nXR∀∈TXQX在代数学中将特殊的二次函数称为二次型二次型。对于二次函数，我们更关心的是Q为正定矩阵的情形。()12TfXXQX=()12TTfXXQXbXc=++若，且X≠0，均有＜0，则称Q是负定的。若，且X≠0，均有＜0，则称Q是负定的。nXR∀∈TXQX定义：设Q为n×n对称矩阵⎟⎟⎟⎟⎟⎠⎞⎜⎜⎜⎜⎜⎝⎛nbbb#21其向量矩阵表示形式是：二次函数的一般形式为：cbgiij,,⎟⎟⎟⎟⎟⎠⎞⎜⎜⎜⎜⎜⎝⎛nnnnnnggggggggg###212222111211其中Q=b=Q为对称矩阵660=660=633032−=−633032−=−631320100104−−=631320100104−−=解：对称矩阵Q的三个主子式依次为：⎟⎟⎟⎠⎞⎜⎜⎜⎝⎛−−401023136⎟⎟⎟⎠⎞⎜⎜⎜⎝⎛−−401023136例：判定矩阵Q=是否正定一个一个nn××nn对称矩阵对称矩阵QQ是是正定矩阵正定