『深度概念』度量学习中损失函数的学习与深入理解 (9)

m倍θ起到了增加 margin 的效果,让类内距离更加紧凑,同时类间距离变大。m越大类间距离就越大,因为在(0, π)区间cos函数单调递减,m越大 cos(mθ)趋向于0。

『深度概念』度量学习中损失函数的学习与深入理解

  5. SphereFace(A-Softmax)

A-softmax 是在 L-softmax 函数上做了一个很小的修改,A-softmax 在考虑 margin时添加两个限制条件:将权重W归一化 

||W|| = 1

『深度概念』度量学习中损失函数的学习与深入理解

​,b = 0。这使得模型的预测仅取决于 W 和 X 之间的角度。

    

\LARGE L_5 = -\frac{1}{N}\sum_{i=1}^{N}log( \frac{e^{||x_i||\cos(m\theta_{y_i})}} {e^{||x_i||\cos(m\theta_{y_i})} + \sum_{j \neq y_i}{e^{||x_i||cos(\theta_j)}}})

『深度概念』度量学习中损失函数的学习与深入理解

 

6. CosFace

cosface的loss函数如下:

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:https://www.heiqu.com/zwwwyy.html