《最优化理论与算法》(陈宝林)——第7章:最优性条件

无约束问题的极值条件

必要条件

在这里插入图片描述

二阶充分条件

在这里插入图片描述

充要条件

在这里插入图片描述

约束极值问题的最优性条件

基本概念

  • 下降方向
    在这里插入图片描述
  • 可行方向
    在这里插入图片描述
  • 两者关系
    在这里插入图片描述

不等式约束(一阶条件)

知识补充

作用约束

在这里插入图片描述

可行方向锥(定义作用约束条件下)

在这里插入图片描述

必要条件(局部最优解必要条件)

几何条件

在这里插入图片描述在这里插入图片描述

代数条件:Fritz John 条件

在这里插入图片描述

代数条件:K-T 条件(增加了约束规格)

在这里插入图片描述
在这里插入图片描述

充分条件(全局最优解充分条件(凸函数))

在这里插入图片描述

等式约束+不等式约束

知识补充

可行移动的描述
在这里插入图片描述

必要条件:局部最优解必要条件

几何条件

在这里插入图片描述

代数条件:Fritz John 条件

在这里插入图片描述

代数条件:K-T 条件(增加了约束规格)

在这里插入图片描述
在这里插入图片描述

充分条件:全局最优解充分条件(凸函数)

在这里插入图片描述

二阶条件

二阶导数反映了函数的曲率特征,对稳定算法的设计有重要意义,因此需要研究约束问题的二阶最优性条件

补充知识

在这里插入图片描述

二阶必要条件

在这里插入图片描述

二阶充分条件

在这里插入图片描述

对偶及鞍点问题

留坑代填

总结

  • 本章主要讲的是如何从理论层面而非数值层面找到最优化问题的极值点
  • 主要分成:无约束最优化问题、仅有不等式约束的最优化问题,同时有不等式约束和等式约束最优化问题
  • 无约束最优化问题:①找到所有的平稳点(驻点=一阶导数等于0=梯度值等于0)②然后在这些平稳点中找到最小值,即为所求的最小值点。
  • 仅有不等式约束的最优化问题:①找到所有的K-T点。②找到K-T点中的最小值点。

猜你喜欢

转载自blog.csdn.net/weixin_36673043/article/details/86561696
今日推荐