![优化理论与实用算法](https://wfqqreader-1252317822.image.myqcloud.com/cover/413/46055413/b_46055413.jpg)
上QQ阅读APP看书,第一时间看更新
1.6.2 多元问题
x在f的局部极小值处,必须满足以下条件:
1.∇f(x)=0,一阶必要条件(FONC)。
2.∇2f(x)半正定(对该定义的解释请见附录C.6节),二阶必要条件(SONC)。
FONC和SONC是一元情况的推广。FONC告诉我们函数在x处无变化。图1.8展示了满足FONC的多元函数的示例。SONC告诉我们x在碗形函数上。
![](https://epubservercos.yuewen.com/1510EB/25220464609634806/epubprivate/OEBPS/Images/image-1d8a.jpg?sign=1739310128-oVZjJGY6RlkTYY8e9X0FK3wnzlrLu4zM-0-83e3356310d8c1f0b759ac22cf1c611a)
图1.8 梯度为零的三个局部区域(见彩插)
FONC和SONC可以通过简单的分析获得。为了使x*在局部极小值处,它所对应的函数值必须小于周围点处的函数值:
![](https://epubservercos.yuewen.com/1510EB/25220464609634806/epubprivate/OEBPS/Images/image-016-3.jpg?sign=1739310128-uZ28rg9FCjxEHx5fyhExiwxOISrs0MQ2-0-79ee253c393f927afbb15e07edb68bd2)
如果求f(x*)的二阶近似,可以得到:
![](https://epubservercos.yuewen.com/1510EB/25220464609634806/epubprivate/OEBPS/Images/image-016-4.jpg?sign=1739310128-hbqmW2x1pZwYCMBzjjlyVDCoFE8PXymw-0-8512ae70993c4429abac3a4460d5fe57)
我们知道,在忽略高阶项的情况下,极小值的一阶导数必须为零。整理之后,可以得到:
![](https://epubservercos.yuewen.com/1510EB/25220464609634806/epubprivate/OEBPS/Images/image-016-5.jpg?sign=1739310128-fUDNxwrDfkLQarTSEIWc65tjxCGT3zCT-0-b203ac2f32061fa7a5f9191e2f3aa405)
这是半正定矩阵的定义,并且满足SONC。
例1.1说明了如何将这些条件应用于Rosenbrock香蕉函数。
例1.1 针对Rosenbrock函数检查点的一阶和二阶必要条件(右图中的点表示极小值点,详见彩插)
![](https://epubservercos.yuewen.com/1510EB/25220464609634806/epubprivate/OEBPS/Images/image-1z1.jpg?sign=1739310128-3m2zvpf3kBiebitD7GVCO76G5bHlsFxG-0-f26d55dda25b3fc0df0f9844ad4bb637)
考虑Rosenbrock香蕉函数
![](https://epubservercos.yuewen.com/1510EB/25220464609634806/epubprivate/OEBPS/Images/image-016-6.jpg?sign=1739310128-5tmZTpjc0oWbIS8te5HscS99Duk5ggaE-0-5d12193fc8d5af3ed2dcc80cce36ab9b)
点(1,1)是否满足FONC和SONC?
梯度是:
![](https://epubservercos.yuewen.com/1510EB/25220464609634806/epubprivate/OEBPS/Images/image-017-1.jpg?sign=1739310128-q4ijm2yzDFDBQ9TX2DyOmaFmzaMEOZbk-0-31c15343a1324264de665c4492d9fdad)
黑塞矩阵是:
![](https://epubservercos.yuewen.com/1510EB/25220464609634806/epubprivate/OEBPS/Images/image-017-2.jpg?sign=1739310128-RABQ1b0dpNh2pLrkyy4efqKLDvFfieT0-0-66e3b9205d436ec9505967cb175d8ceb)
计算得出∇(f)([1,1])=0,所以满足FONC。[1,1]处的黑塞矩阵为:
![](https://epubservercos.yuewen.com/1510EB/25220464609634806/epubprivate/OEBPS/Images/image-017-3.jpg?sign=1739310128-y35PcCNqaiLyapqR17OsnFuDh0CJ72kL-0-de56ee11d423e33c2e2127940c9d2d35)
它是正定的,所以满足SONC。
仅依靠FONC和SONC难以实现最优化。对于二次可微函数的无约束优化,如果满足FONC且∇2f(x)是正定的,则该点一定处于强局部极小值处。这些条件统称为二阶充分条件(Second-Order Sufficient Condition,SOSC)。