仅作为书的一个补充知识
凸函数定义
三个定义各有各的用处
定义1
定义2
其实上面的两个是最基本的定义 后面的定义都是上面两个推导出来的
定义3
证明
证明凸函数满足一阶性质
高维会转化为一维
第二个定义就是用于高维的
从一阶性质证明凸函数
二阶条件 最常用的定义
海森矩阵正定 --》 严格凸
但是反过来不一定要求
例子
非常重要的凸函数
这里的P最好写成对称矩阵( 当然也可以不是对称的 但是写成对称的会很方便 ) 因为求二次导得到就是P 如果是对称的 观察起来就很方便
很多时候会发现优化出来后 结果P就是对称的
常见的函数判定
主要是利用二阶条件去判定
tricks
- 一个重要的证明技巧就是:当出现导数的时候 可以采用取极值的技巧
- 在所有定义和证明中 一定不要忘了一句话 就是定义域是凸集 不然以切都是没有意义的
否则 就会出现这种情况:
左边也是凸的 右边也是凸的 但是由于定义域不是凸的 所以拼在一起就不行