2.半小时掌握凸优化.pdf

凸优化初步 七月算法 邹博 2015年3月31日 主要内容  凸集基本概念  凸集保凸运算  分割超平面  支撑超平面  凸函数基本概念  上境图  Jensen不等式  凸函数保凸运算  凸优化一般提法  对偶函数  鞍点解释  用对偶求解最小二乘问题  强对偶KKT 条件 2/50 思考凸集和凸函数 2 2  y=x 是凸函数，函数图像上位于y=x 上方的 区域构成凸集。  凸函数图像的上方区域，一定是凸集；  一个函数图像的上方区域为凸集，则该函数是 凸函数。  稍后给出上述表述的形式化定义。  因此，学习凸优化，考察凸函数，先从凸集 及其性质开始。 3/50 凸集  集合C 内任意两点间的线段均在集合C 内， 则称集合C 为凸集。 4/50 凸集 5/50 超平面和半空间  超平面hyperplane  半空间halfspace 6/50 超平面和半空间 7/50 多面体  多面体有限个半空间和超平面的交集。  仿射集(如超平面、直线) 、射线、线段、半空间都 是多面体。  多面体是凸集。  此外：有界的多面体有时称作多胞形(polytope) 。  注：该定义略混乱，不同文献的含义不同。 8/50 多面体 9/50 保持凸性的运算  集合交运算  思考：如何证明？(提示：根据定义)  仿射变换  函数f=Ax+b 的形式，称函数是仿射的：即线性 函数加常数的形式  透视变换  投射变换( 线性分式变换) 10/50 集合交运算 半空间的交 11/50 仿射变换  仿射变换  伸缩、平移、投影  若f是仿射变换，  若S为凸集，则f(S) 为凸集；  若f(S) 为凸集，则S为凸集。 12/50 透视变换  透视函数对向量进行伸缩(规范化) ，使得最 后一维的分量为1并舍弃之。  透视的直观意义  小孔成像 13/50