loss 相关问题

带有值向量的回归模型的pytorch损失函数

我正在训练 CNN 架构来使用 PyTorch 解决回归问题,其中我的输出是 25 个值的张量。输入/目标张量可以是全零或高斯分布...

回答 1 投票 0

在模型中添加attention_mask后,Loss变为Nan,同时微调gemma2

我试图在我自己的数据集上微调 gemma2 2b 模型以执行序列分类任务。但是当我测试模型时,我发现当我将attention_mask插入到模型中后,...

回答 1 投票 0

`CrossEntropyLoss()`

交叉熵公式: 但为什么下面给出loss = 0.7437而不是loss = 0(因为1*log(1) = 0)? 进口火炬 将 torch.nn 导入为 nn 从 torch.autograd 导入变量 输出 = 变量...

回答 5 投票 0

如何计算样本滑动窗口上的损失,然后反向传播加权平均损失

我正在尝试实施论文中的学习技术。相关部分是:SNN基线使用了50个连续数据点的滑动窗口,代表200毫秒的数据(50点风...

回答 1 投票 0

计算两个形状相同的张量的 MSE 损失

我正在尝试执行一项分类任务,但由于某些原因,我需要删除 softmax 并将损失模块从交叉熵替换为 MSE,以便为标签创建一个热张量(目标...

回答 1 投票 0

是什么导致了 ValueError:无法解释标识符:丢失?

在下面的代码中,请帮助我理解为什么损失指标没有被解析 将 numpy 导入为 np 将 pandas 导入为 pd 从 sklearn.model_selection 导入 train_test_split 来自 sklearn.imp...

回答 1 投票 0

Keras,存在准确性和纳米损失问题

以下是编码: 导入操作系统 os.environ\['KAGGLE_CONFIG_DIR'\] = '/content' 将 pandas 导入为 pd 从张量流导入keras 从 sklearn.model_selection 导入 train_test_split 来自 skle...

回答 1 投票 0

如何重现带有modified_huber损失的SGDClassifier?

我有一个定义如下的模型: 随机数 = 42 模型=管道([ ('缩放器', RobustScaler()), ('特征', SelectKBest(k=42)), ('模型', SGDClassifier(loss='modified_huber', shuffle=True,

回答 1 投票 0

Mask-R-CNN 中的测试和验证有什么区别?

我有自己的图像数据集并使用Mask-R-CNN进行训练。在那里,您将数据集分为训练、验证和测试。 我想知道验证和测试之间的区别。 我知道

回答 2 投票 0

在 PyTorch 拟合函数期间提取梯度

我正在尝试训练一个神经网络,直到其梯度的 L2 范数在 0 的 10e-3 范围内;因此,我的代码包括定义在拟合过程中计算的参数和梯度...

回答 1 投票 0

为什么VAE损失没有收敛到零?

我正在使用变分自动编码器,这是我对损失函数的实现: 类变分自动编码器(nn.Module): # ...一些功能... def gaussian_likelihood(自我, x_hat,

回答 1 投票 0

使用 pytorch 中的 Huggingface 训练器记录每个时期的训练和验证损失,以评估偏差-方差权衡

我正在使用 Huggingface Trainer 微调 Pytorch 中文本分类的转换器模型。我想记录每个训练时期的训练和验证损失。这是...

回答 1 投票 0

具有 huber 损失的 python svm 函数

我需要一个带有huber损失函数的python svm分类器。但它的默认损失函数是铰链损失。你知道如何将损失函数分配给 python svm 吗? svc = svm.SVC(kernel='线性', C=1,

回答 2 投票 0

Pytorch:使用完整数据进行一次前向传递,使用数据子集进行多次前向传递,它们是否相同?

我正在使用 PyTorch 优化我的神经网络(LSTM 网络)。由于某些原因(在训练期间),我无法一次传递所有数据,而只能传递数据的子集(请参阅下面的代码)...

回答 1 投票 0

验证损失不会对超参数调整做出反应

我通过神经网络构建了一个回归器。我的训练损失图随着超参数(lr、dropout 率、激活 fn)的调整而变化。然而,我的价值损失仍然存在......

回答 1 投票 0

PyTorch 的 BCEWithLogitsLoss 类具体是如何实现的?

根据 PyTorch 文档,BCEWithLogitsLoss() 类的优点是可以使用 用于数值稳定性的 log-sum-exp 技巧。 如果我们使用类 BCEWithLogitsLoss() w...

回答 4 投票 0

自定义损失函数:如何使用Tensorflow在keras中的损失函数中添加隐藏层的输出

在我的模型中,隐藏层的输出,即“编码”,有两个通道(例如形状:[none, 128, 128, 2])。我希望在损失函数中这两个通道之间添加SSIM: 损失 = ssim(输入,

回答 1 投票 0

关于 Tensorflow 模型再现性的问题

我目前正在研究张量流模型,并遇到了有关其再现性的问题。 我构建了一个简单的密集模型,使用常量值进行初始化并使用虚拟数据进行训练。 导入张量流...

回答 1 投票 0

Detectron2:记录训练和验证损失

我想在 AzureML 中训练 detectorron2 模型。在 AzureML 中,可以记录指标。标准,Detectron2 记录损失(总损失、分类器损失、边界框损失等)。然而,我并不完全

回答 1 投票 0

如何结合 tf.absolute 和 tf.square 在 Tensorflow 中创建 Huber 损失函数?

准确地说,我要找的损失函数是绝对误差小于0.5时的平方误差,而当绝对误差大于0时,它是绝对误差本身......

回答 5 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.