Hessian 矩阵的必要性

Question

Hessian 矩阵有助于确定函数的鞍点和局部极值（源）

Hessian 矩阵用于牛顿法中来优化函数。当 Hessian 矩阵无法给出全局最小值（这是我们优化函数时所寻找的）时，它在优化中有何用处？

Answer 1

一些算法（1）只需要函数求值，（2）只需要函数+梯度，或者（3）函数、梯度和二阶导数。使用二阶导数的算法可能具有更快的收敛速度。

全局求解器的工作方式与局部求解器非常不同。许多全局求解器需要了解目标和约束的函数形式。