在大数据推荐算法中,经常使用大规模逻辑回归算法进行模型训练。在用owlqn方法解稀疏逻辑回归问题时,每一步迭代需要计算损失函数f(w)的“虚梯度”作为下降方向。请问下面哪一个是虚梯度的计算公式?

图片描述

$$ \diamond_i f(w) = \begin{cases} \partial_i^- f(w) & \text{ if } \partial_i^- f(w) > 0 \ \partial_i^+ f(w) & \text{ if } \partial_i^+ f(w) < 0 \ 0 & \text{ otherwise } \ \end{cases} \right. $$

图片描述
$$ \diamond_i f(w) = \begin{cases}
\partial_i^- f(w) & \text{ if } \partial_i^- f(w) < 0 \
\partial_i^+ f(w) & \text{ if } \partial_i^+ f(w) > 0 \
0 & \text{ otherwise } \
\end{cases} \right.$$

图片描述
$$ \diamond_i f(w) = \partial_i^+ f(w) - \partial_i^- f(w) $$

图片描述
$$ \diamond_i f(w) = \partial_i^ f(w) $$


竹节新馨翠
32 声望2 粉丝