您的位置 首页 > 德语词汇

contrastive是什么意思、读音,Day82:对比损失(Contrastive Loss )函数及梯度的计算

老铁们,大家好,相信还有很多朋友对于contrastive是什么意思、读音和Day82:对比损失(Contrastive Loss )函数及梯度的计算的相关问题不太懂,没关系,今天就由我来为大家分享分享contrastive是什么意思、读音以及Day82:对比损失(Contrastive Loss )函数及梯度的计算的问题,文章篇幅可能偏长,希望可以帮助到大家,下面一起来看看吧!

Contrastiveloss最初源于YannLeCun“DimensionalityReductionbyLearninganInvariantMapping”CVPR2006。

该损失函数主要是用于降维中,即本来相似的样本,在经过降维(特征提取)后,在特征空间中,两个样本仍旧相似;而原本不相似的样本,在经过降维后,在特征空间中,两个样本仍旧不相似。同样,该损失函数也可以很好的表达成对样本的匹配程度。

contrastive是什么意思、读音,Day82:对比损失(Contrastive Loss )函数及梯度的计算

这张图表示的就是损失函数值与样本特征的欧式距离之间的关系,其中红色虚线表示的是相似样本的损失值,蓝色实线表示的不相似样本的损失值。

上图显示了类比的弹簧系统。实心圆表示与中心点相似的点。空心圆圈代表不同的点。弹簧显示为红色曲折线。作用在点上的力以蓝色箭头显示。箭头的长度近似给出了力的强度。在右侧的两个图中,x轴是距离D_w,y轴是损失函数的值。(a)中显示使用仅吸引attractonly弹簧连接到相似点的点。(b)表示相似点对的损失函数及其梯度。(c)表示该点仅与半径为m的圆内的不同点连接,仅具有m-repulse-only排斥弹簧连接到不相似的点。(d)显示不相似点对相关的损失函数及其梯度。(e)显示一个点被不同方向的其他点拉动,形成平衡的情况。

defcontro_loss(self):\n'''\n总结下来对比损失的特点:首先看标签,然后标签为1是正对,负对部分损失为0,最小化总损失就是最小化类内损失(within_loss)部分,\n让s逼近margin的过程,是个增大的过程;标签为0是负对,正对部分损失为0,最小化总损失就是最小化between_loss,而且此时between_loss就是s,\n所以这个过程也是最小化s的过程,也就使不相似的对更不相似了\n'''\ns=self.similarity\none=tf.constant(1.0)\nmargin=1.0\ny_true=tf.to_float(self.y_true)\n\n#类内损失:\nmax_part=tf.square(tf.maximum(margin-s,0))#margin是一个正对该有的相似度临界值\nwithin_loss=tf.multiply(y_true,max_part)#如果相似度s未达到临界值margin,则最小化这个类内损失使s逼近这个margin,增大s\n\n#类间损失:\nbetween_loss=tf.multiply(one-y_true,s)#如果是负对,between_loss就等于s,这时候within_loss=0,最小化损失就是降低相似度s使之更不相似\n\n#总体损失(要最小化):\nloss=0.5*tf.reduce_mean(within_loss+between_loss)\nreturnloss

————————————————

链接1:https://blog.csdn.net/forever__1234/article/details/81222092

链接2:https://blog.csdn.net/Hero_Never_GIVE_UP/article/details/82855493?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.nonecase&depth_1-utm_source=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.nonecase

contrastive是什么意思、读音和Day82:对比损失(Contrastive Loss )函数及梯度的计算的问题分享结束啦,以上的文章解决了您的问题吗?欢迎您下次再来哦!

本站涵盖的内容、图片、视频等数据,部分未能与原作者取得联系。若涉及版权问题,请及时通知我们并提供相关证明材料,我们将及时予以删除!谢谢大家的理解与支持!

Copyright © 2023