当前位置：首页
> 梯度
神经网络中梯度的概念
一、什么是梯度· 梯度的定义梯度是一个向量，是一个n元函数f关于n个变量的偏导数，梯度会指向各点处的函数值降低的方向。更严格的讲，梯度指示的方向是各点处的函数值减少最多的方向。为什么这么说，因为方向导数=cos(\theta)×梯度，而\theta是方向导数的方向和梯度方向的夹角。所以，所有的下降方...