02凸优化理论与应用_凸函数

信息与通信工程学院庄伯金[e-mail]1凸优化理论与应用第二章凸函数信息与通信工程学院庄伯金[e-mail]2凸函数的定义1.定义域为凸集；domf.((1))()(1)().fxyfxfy2.，有,dom,01xyf.凸函数的定义：函数，满足:nfnRR.凸函数的扩展定义：若为凸函数，则可定义其扩展函数为f.:{}nfnRR.()dom()domfxxffxxf凸函数的扩展函数也是凸函数！信息与通信工程学院庄伯金[e-mail]3凸函数的一阶微分条件若函数的定义域为开集，且函数一阶可微，则函数为凸函数当且仅当为凸集，且对()()()()Tfyfxfxyxfffdomfdomf,domxyf信息与通信工程学院庄伯金[e-mail]4凸函数的二阶微分条件f若函数的定义域为开集，且函数二阶可微，则函数为凸函数当且仅当为凸集，且对，其Hessian矩阵2()0.fxffdomfdomfdomxf信息与通信工程学院庄伯金[e-mail]5凸函数的例幂函数,,1or0.axxaaR负对数函数logx负熵函数logxx范数函数pxaxe指数函数信息与通信工程学院庄伯金[e-mail]6凸函数的例1()max(,...,)nfxxx2()/,0fxxyy1()log(...)nxxfxee1/1()(),domnnniifxxfR()log(det),domnfXXfS信息与通信工程学院庄伯金[e-mail]7下水平集(sublevelset)定理：凸函数的任一下水平集均为凸集。任一下水平集均为凸集的函数不一定为凸函数。{dom|()}Cxffx称为的下水平集。f定义：集合信息与通信工程学院庄伯金[e-mail]8函数上半图(epigraph)定理：函数为凸函数当且仅当的上半图为凸集。ffepi{(,)|dom,()}fxtxffxt称为函数的上半图。f定义：集合信息与通信工程学院庄伯金[e-mail]9Jensen不等式为凸函数，则有：1111(...)()...()nnnnfxxfxfxf101,...1.in其中Jensen不等式的另外形式：(())()().SSfpxxdxpxfxdx信息与通信工程学院庄伯金[e-mail]10保持函数凸性的算子凸函数的逐点最大值1()max((),...,())nfxfxfx凸函数与仿射变换的复合()()gxfAxb()sup(,)yfxgxyA11()()...()nnfxfxfx凸函数的非负加权和信息与通信工程学院庄伯金[e-mail]11保持函数凸性的算子复合运算:,:()(())nghfxhgxRRRRf最小值算子()inf(,)yCgxfxy凸函数的透视算子(,)(/)gxttfxt信息与通信工程学院庄伯金[e-mail]12共轭函数(conjugatefunction)定义：设函数，其共轭函数，定义为:nfRR*dom()sup(()).Txffyyxfx*:nfRR共轭函数的例共轭函数具有凸性！()Tfxaxb()xfxe()logfxxx信息与通信工程学院庄伯金[e-mail]13共轭函数的性质Fenchel’sinequality*()().Tfxfyyx性质：若为凸函数，且的上半图是闭集，则有()fx()fx**.ff性质：设为凸函数，且可微，对于，若()fxnzR()yfz则*()()()Tfyzfzfz信息与通信工程学院庄伯金[e-mail]14准凸函数(quasiconvexfunction)准凸函数的例定义：设函数，若函数的定义域和任意下水平集{|(),dom}Sxfxxf:nfnRR则称函数为准凸函数。()fx信息与通信工程学院庄伯金[e-mail]15准凸函数的判定定理定理：函数为准凸函数，当且仅当为凸集，且对，有()fx((1))max{(),()}fxyfxfydomf,dom,01xyf定理：若函数一阶可微，则为准凸函数，当且仅当为凸集，且对，有()fx()fxdomf,domxyf()()()()0Tfyfxfxyx，有定理：若函数二阶可微，且满足对()fxdom,,0nxfyyR2()0()0TTyfxyfxy则函数准凸函数。()fx信息与通信工程学院庄伯金[e-mail]16最小值函数非负权值函数的最大值函数保持准凸性的算子复合函数信息与通信工程学院庄伯金[e-mail]17准凸函数的凸函数族表示若为准凸函数，根据的任意下水平集，我们可以构造一个凸函数族，使得()fx()fxt()tx()()0tfxtx性质：若为准凸函数的凸函数族表示，对每一个，若，则有()().stxx()fx()txdomxfst信息与通信工程学院庄伯金[e-mail]18对数凸函数为凸集为凸函数。定义：函数称为对数凸函数，若函数满足：2.()0fx()fx()fx3.log()fx1.domf定理：函数的定义域为凸集，且，则为对数凸函数，当且仅当对()fx()0fx()fx,dom,01xyf有1((1))()()fxyfxfy对数凸函数的例信息与通信工程学院庄伯金[e-mail]19对数凸函数和凹函数的性质性质：对数凸性与凹性对函数乘积和正数数乘运算均保持封闭。定理：函数二阶可微，则为对数凸函数当且仅当2()()()()Tfxfxfxfx()fx()fx性质：对数凸性对函数加运算保持封闭。但对数凹性对函数加运算不封闭。推论：函数对每一个在上对数凸，则函数也是对数凸函数。(,)fxyyCx()(,)Cgxfxydy信息与通信工程学院庄伯金[e-mail]20对数凸函数和凹函数的性质定理：函数为对数凹函数，则函数是对数凹函数。(,):nmfxyRRR()(,)gxfxydy信息与通信工程学院庄伯金[e-mail]21广义不等式下的凸性广义单调性的定义：设为真锥，函数称为单调增，若函数满足：nKR:nfRRK()fx()()Kxyfxfy广义凸函数的定义：设为真锥，函数称为凸，若函数满足对mKR:nmfRRK()fx,dom,01xyf((1))()(1)().Kfxyfxfy均有定理(对偶等价)：函数为凸函数，当且仅当对所有，为凸函数。()fxK*0Kw()Twfx信息与通信工程学院庄伯金[e-mail]22作业(1)P1163.16P1163.21信息与通信工程学院庄伯金[e-mail]23作业(2)P1213.41P1223.49(1)(2)