可行方向法-梯度投影法

4.非线性结构优化4.4可行方向法min()..()0(1,2,,)jFindfstgjnxxx≤有约束优化问题非线性优化问题线性优化问题非线性约束优化问题线性约束优化问题（目标函数—非线性）（目标函数—线性）（约束—线性）（目标函数—非线性）（约束—非线性）（目标函数—非线性）（约束—线性）K-K-T条件（1）K-K-T条件),,2,1(0)(.)(minmjgtsfjxx),,2,1()()5(0)4(0)()3(0)()2(0)()()1(1mjggggfjjjjjmjjjxxxxxK-K-T条件（梯度条件）（约束条件）（松弛互补条件）（非负条件）（正则条件或约束规格）线性无关定义：)()(),(1xxxmjjjgfλL)(xfP2x0)(2gx)(2gx)(1gx0)(1g2)(xfPx0)(2gx)(2gx)(1gx0)(1g)(xfP*x)(xf0)(222xg0)(111xg)(xf0)(222xg0)(111xg)(1xg00)()()(212211，xxxggf00)()()(112211，xxxggf)(xfPx0)(2gx)(2gx)(1gx0)(1g2*x最优点，一定在与之间，所以可以起作用的非负线性组合表示。*x)(*xfx*)(2gx*)(1g)(*xfx*)(jg),,2,1()()()1(1mjgfmjjjxx0)4(j起作用的约束经过最优点，0,jx0)()2(jgx0)(jg0)()3(xjjg最优点满足所有的约束条件，这就是K-K-T条件，约束优化问题：（1）搜索方向；受约束条件的限制。（2）迭代步长；受约束条件的限制。（一）基本概念：（1）起作用的约束：起到限制性作用的约束。（2）可行方向：点在可行域内的点，方向迭代后的新的点也是可行域内的点，则搜索方向称为可行方向。（3）可行下降方向：使目标函数下降的可行方向，称为可行下降方向。dxx(0)(0)xdddx0)(jgdx0)(jgx0)(ig起作用的约束min()..()0(1,2,,)jFindfstgjnxxx≤kkkkfffxxxx)(T)()()()()(1kkikikigggxxxx)(T)()()()()(1)()(xxx11kkk)(xf)(xk将每一个函数在处对函数进行taylor展开，取一次近四，则；（1）如果或，则搜索方向是下降方向。0)()(1)()(xxkkff0)(kkfxx)(T0)()(1)()(xxkkff0)(kkfxx)(T（2）如果在可行域内，，则总可取步长，得，使仍在可行域内，即任意搜索方向是可行方向。)(xk0)()(xkig0)(kkkkkdxx)()(1)(x1k（3）如果在边界上，，则对某个步长来说，如果，则在可行域内，故可行的。)(xk0)()(xkig0)(k)(x1kmigggkkikiki,,2,1,0)()()(1xxxx)(T)()(（4）如果(3)的情况下，，或则位于在点的切平面上，只有为现行时，才是可行点。)(x1k0)(1)(xkig0)(kkigxx)(T)(xig)(x1k)(xig)(xk0)(kkigxx)(T线性条件下0)(kkigxx)(T非线性条件下dx0)(jgx0)(ig线性条件下)(xig线性约束条件下bxAAxxA(xkkkk)bAxkbxAkexEExxE(xkkkk)eExk0xEk搜索方向需要满足的条件：0)(kkigxx)(T0)(kkigxx)(T0)(kkfxx)(T目标函数下降的条件：约束条件：约束条件0xEkbxAk搜索方向需要满足的条件：0)(kkfxx)(T目标函数下降的条件：约束条件：bxAk0xEkkkkkfffxxxx)(T)()()()()(1kkkkkkkffffxxxxxxx)(TT)(T)()()(21)()()(1kkkkfffdxxx)(T)()()()()(1kkkkkkkffffdxddxxx)(TT)(T)()()(21)()()(21二次规划可行方向法kkkkfffdxxx)(T)()()(min)()(min1kkkkkkkffffdxddxxx)(TT)(T)()()(21)(min))()(min(1bxAk0xEk..ts0ad..tskkfdx)(T)(minkkkkkffdxddx)(TT)(T)(21)(min线性约束问题的Zoutendijk可行方向法解析搜索法：可行方向法起作用的约束不起作用的约束解析搜索法：可行方向法解析搜索法：可行方向法解析搜索法：可行方向法解析搜索法：可行方向法解析搜索法：可行方向法解析搜索法：可行方向法解析搜索法：可行方向法非线性约束问题的Zoutendijk可行方向法解析搜索法：可行方向法-)()()()()(0)(0)()()()(xgdxgxgxgdxgxgdxgdxgxgdxg解析搜索法：可行方向法解析搜索法：可行方向法解析搜索法：可行方向法起作用约束可行方向法解析搜索法：可行方向法解析搜索法：可行方向法解析搜索法：可行方向法Topkis–Veinott全约束可行方向法解析搜索法：可行方向法)()()()()(0)()()()(xgdxgxgxgdxgdxgdxgxgdxg解析搜索法：可行方向法4.非线性结构优化4.5梯度投影法投影矩阵的基本概念解析搜索法：梯度投影法xqpQPRN解析搜索法：梯度投影法解析搜索法：梯度投影法约束优化问题：（1）搜索方向；受约束条件的限制。（2）迭代步长；受约束条件的限制。搜索方向需要满足的条件：0)(kkigxx)(T0)(kkfxx)(T目标函数下降的条件：约束条件：线性约束条件下bxAk0xEk..tskkfdx)(T)(min搜索方向线性约束问题的Zoutendijk可行方向法起作用的约束不起作用的约束（1）搜索方向非线性约束问题的Zoutendijk可行方向法搜索方向迭代步长起作用约束可行方向法迭代步长搜索方向Topkis–Veinott全约束可行方向法迭代步长搜索方向梯度投影法)(xfP2x0)(2gx)(2gx)(1gx0)(1g2)(xfPx0)(2gx)(2gx)(1gx0)(1g)(xfP*x)(xf0)(222xg0)(111xg)(xf0)(222xg0)(111xg)(1xg00)()()(212211，xxxggf00)()()(112211，xxxggf解析搜索法：梯度投影法kkTkkkTkkklkklfflfffffdxxxxdxxdxxx)()()()()(T)()()()()()()()()(1解析搜索法：梯度投影法解析搜索法：梯度投影法解析搜索法：梯度投影法