如何将批归一化和时间卷积应用于临时变异数据？

Question

我的任务是实现此处讨论的架构。我目前正在实现一个子网络，其中输入张量的形状为 (N, T/4, 832)，其中 T 是时间。子网络由“时间线性层 -> 批归一化 -> Relu -> 时间卷积组成。我的问题在于实现，如何将时间批归一化和时间卷积应用于变量 T？

我目前在Pytorch中的子网络实现如下：

nn.Sequential(
nn.Linear(832, 832), # Input: N x T/4 x 832
nn.BatchNorm1d(832), # Input : N x 832 x T/4
nn.ReLU(),
nn.Conv1d(832,832) # Input: N x 832 x T/4
# Output: N x 832 x T/4 - 2
)

问题在于 Conv1d 对 T 维度进行下采样。这不是，因此我的问题是正确的。很难找到任何关于时间卷积到底是什么的资源。

Answer 1

如果没有填充，卷积输出大小将相对于输入大小减小。请参阅 pytorch Conv1D 的 padding 参数说明。为此参数指定“相同”将确保执行卷积的维度的输出和输入大小相同。

padding 控制应用于输入的填充量。它可以是字符串 {‘valid’, ‘same’} 或整数元组，给出应用于两侧的隐式填充量。