为什么损耗会减少,但精度也会降低(Pytorch,LSTM)?

问题描述 投票:0回答:1

我已经在Pytorch中使用LSTM-线性模块构建了一个模型,用于分类问题(10个类)。我正在训练模型,并且对于每个时期我都在training set中输出lossaccuracy。输出如下:

时期:0开始!损失:2.301875352859497累计:0.11388888888888889时代:1开始!损失:2.2759320735931396累计:0.29纪元:2开始!损失:2.2510263919830322帐户:0.4872222222222222纪元:3开始!损失:2.225804567337036帐户:0.6066666666666667纪元:4开始!损失:2.199286699295044帐户:0.6511111111111111纪元:5开始!损失:2.1704766750335693帐户:0.6855555555555556时代:6开始!损失:2.1381614208221436帐户:0.7038888888888889纪元:7开始!损失:2.1007182598114014帐户:0.7194444444444444时代:8开始!损失:2.0557992458343506帐户:0.7283333333333334纪元:9开始!损失:1.9998993873596191帐户:0.7427777777777778时代:10开始!损失:1.9277743101119995帐户:0.7527777777777778纪元:11开始!损失:1.8325848579406738帐户:0.7483333333333333纪元:12开始!损失:1.712520718574524帐户:0.7077777777777777纪元:13开始!损失:1.6056485176086426帐户:0.6305555555555555纪元:14开始!损失:1.5910680294036865Acc:0.4938888888888889纪元:15开始!损失:1.6259561777114868帐户:0.41555555555555557纪元:16开始!损失:1.892195224761963帐户:0.3655555555555556纪元:17开始!损失:1.4949012994766235累计:0.47944444444444445纪元:18开始!损失:1.4332982301712036帐户:0.48833333333333334

对于损失函数,我使用了nn.CrossEntropyLoss和Adam Optimizer。尽管损耗一直在降低,但精度一直提高到第10阶段,然后由于某种原因而开始降低。]

为什么会这样?

即使我的模型过度拟合,也不意味着精度应该很高? (总说来是在训练集

而非验证集上测得的准确性和损失)

我已经在Pytorch中使用LSTM-线性模块构建了一个模型,用于分类问题(10个类)。我正在训练模型,对于每个时期,我都会在训练集中输出损失和准确性。 ...

neural-network pytorch lstm loss-function cross-entropy
1个回答
0
投票

减少损耗并不总是意味着提高精度。我将尝试解决这种交叉熵损失。

© www.soinside.com 2019 - 2024. All rights reserved.