我计划使用this blog来实现类似于tf.nn.batch_normalization
的批处理归一化功能(或仅使用tf.nn.batch_normalization
),以计算均值和方差,但是我希望对矢量和图像类型的时态数据执行此操作。我通常在理解如何在tf.nn.moments
中正确设置tf.nn.moments
参数时遇到一些麻烦。
我的矢量序列的输入数据的形状为axes
,而我的图像序列的输入数据的形状为tf.nn.moments
(请注意,它们是RGB图像)。在这两种情况下,我都希望标准化跨时间步跨整个批次和进行,这意味着我非试图针对不同时间步保持独立的均值/方差。
如何为不同的数据类型(例如图像,矢量)以及时间/非时间类型正确设置(batch, timesteps, channels)
?
最简单的想法是-传递到(batch, timesteps, height, width, 3)
的轴将是collapsed