我的深度学习模型的验证准确性呈现锯齿状模式

Question

我设计了一个结合了卷积神经网络（CNN）和 视觉变压器（ViT）。 30 个 epoch 后，训练准确率达到 99%，然而，验证准确率图显示出相当锯齿形的图案（下面附上该图供参考）。超参数如下：学习率 --> 0.002，批量大小 --> 32，图像高度和宽度 --> 256。

训练数据集包含 14906 张图像，验证数据集包含 3726 张图像。

如何获得平滑的验证准确度图？任何指导将不胜感激。

更改超参数（批量大小、学习率）和图像增强。

Answer 1

有锯齿形验证损失也不错。我的建议是增加纪元的数量。模型学习良好后，之字形会减少，因此增加 epoch 并尝试增加层数或增加模型的长度...