每个时代后必须准确度提高吗?

问题描述 投票:2回答:2

当使用批次训练神经网络时,精确度(训练和验证)是否应该在每个时期之后(在看到整个数据之后的额外时间)增加?

我希望能够快速判断网络设置(学习速率,节点数等)是否合理。似乎有必要看到整个数据集越多,性能就越好。

那么,如果表现在一个时代减少,我是否应该担心出现问题(高学习率,高偏见)? (或者我总是要等几个时代才能判断?)

neural-network deep-learning
2个回答
2
投票

我会说这取决于数据集和架构。因此,波动是正常的,但总的来说损失应该改善。您可以查看这些实用指南,以更好地解释损失曲线:

http://cs231n.github.io/neural-networks-3/#loss

https://blog.slavv.com/37-reasons-why-your-neural-network-is-not-working-4020854bd607


1
投票

是的,在完美的世界中,人们会期望测试精度会提高。如果测试精度开始下降,则可能是您的网络过度拟合。您可能希望在达到该点之前停止学习,或采取其他措施来解决过度拟合问题。

而且,它可能是测试数据集中的噪声的结果,即错误标记的示例。

© www.soinside.com 2019 - 2024. All rights reserved.