请说明凸函数的定义与「局部极小即全局极小」的性质,并给出可微凸函数的最优点条件,联系梯度下降为何适用于凸问题。
凸函数定义:定义域 D 为凸集,对任意 $x,y\in D$ 与 $t\in[0,1]$:
$$f(tx+(1-t)y)\le t f(x)+(1-t)f(y)$$
几何上:函数图像上任意两点连线都在图像之上(碗形)。
关键性质
一阶最优性条件(可微凸函数)
与梯度下降
二阶导数判别:二阶可导时 $f''(x)\ge0$(一元)或 Hessian 半正定(多元)即为凸。
题目与答案就在本页;收藏、批注和错题重练在应用内