企源知识库

梯度法迭代搜索中，，负梯度方向是否是使目标函数值收敛速度最快的方向？为什么？
【正确答案】：负梯度方向不是使目标函数值收敛速度最快的方向。
负梯度方向是函数值的最快下降方向，并不是函数值收敛最快方向，因为梯度法在接近极小点位置时，收敛速度很慢，仅仅是在某点X（上标（K））处是最速下降方向，带有局部性质。一旦离开了 X（上标（K））点，原先的方向就不再是最速下降方向，容易在极小点附近逗留迭代，只有当目标函数的等值线为同心圆时，任一点的负梯度才是全域的最速下降方向。