深度学习训练loss下降,acc不变是什么问题?

[图片] 现在是resnet50加lstm 原来是r3d 都有这种acc固定的情况 也换过数据集 请问一下大佬们这个问题出在哪 该怎么改呢
关注者
22
被浏览
71,625

8 个回答

这测试集就三个样本,不变很正常吧。。

就跟你们班就三个人,你很努力,但是一直考第二名,一个道理。

Loss反映的是logit计算的损失,Acc反映的是最大logit对应的类别的是否为真实标签,两者在趋势上并不完全一致。

一个直观的理解是,最大的Logit 已经可以预测正确了,但是confidence依旧在上升,从而导致loss的下降。

可以简单理解为有过拟合的倾向,但也不能单纯的理解为一个坏的情况,详细的理论和实验,可以关注一下分类模型的校正(Calibration)能力,也就是:

The predicted softmax scores are much better indicators of the actual likelihood of a correct prediction.

补两张图,横轴表示confidence(最大的logit),纵轴表示准确率(Acc),每个点是一个mini batch获得的(confidence,accuracy):

Well calibrated model
Poorly calibrated model (Over confidence)