尺寸如何影响pyfftw的性能？

Question

我正在尝试使用带有pyfftw的FFT实现三维卷积。我用SO作为基础发布在另一篇文章中的代码：

class CustomFFTConvolution(object):

def __init__(self, A, B, threads=1):

    shape = (np.array(A.shape) + np.array(B.shape))-1
    #shape=np.array(A.shape) - np.array(B.shape)+1
    if np.iscomplexobj(A) and np.iscomplexobj(B):
        self.fft_A_obj = pyfftw.builders.fftn(
                A, s=shape, threads=threads)
        self.fft_B_obj = pyfftw.builders.fftn(
                B, s=shape, threads=threads)
        self.ifft_obj = pyfftw.builders.ifftn(
                self.fft_A_obj.get_output_array(), s=shape,
                threads=threads)

    else:
        self.fft_A_obj = pyfftw.builders.rfftn(
                A, s=shape, threads=threads)
        self.fft_B_obj = pyfftw.builders.rfftn(
                B, s=shape, threads=threads)
        self.ifft_obj = pyfftw.builders.irfftn(
                self.fft_A_obj.get_output_array(), s=shape,
                threads=threads)

def __call__(self, A, B):
    s1=np.array(A.shape)
    s2=np.array(B.shape)

    fft_padded_A = self.fft_A_obj(A)
    fft_padded_B = self.fft_B_obj(B)

    ret= self.ifft_obj(fft_padded_A * fft_padded_B)

    return self._centered(ret, s1 - s2 + 1)

def _centered(self,arr, newshape):
    # Return the center newshape portion of the array.
    newshape = np.asarray(newshape)
    currshape = np.array(arr.shape)
    startind = (currshape - newshape) // 2
    endind = startind + newshape
    myslice = [slice(startind[k], endind[k]) for k in range(len(endind))]
    return arr[tuple(myslice)]

我的数据A的形状为（931,411,806），我的过滤器B的形状为（32,32,32）。如果我在24核机器中使用24个线程运行此代码，则操作需要263秒。现在，如果我在同一台机器上运行相同的实验，但这次A的形状为（806,411,931），只是轴的交换，代码只需16秒。这是什么原因？有经验法则可以获得最佳性能吗？也许填充其中一个尺寸？谢谢！

Answer 1

由于考虑了填充，填充大小是否可以增加到均匀，或者是多个小素数？选择均匀尺寸可以将挂钟时间除以3。

根据尺寸，某些DFT算法可能不可用或不高效。例如，执行DFT的最有效算法之一是Cooley-Tuckey algorithm。它包括将复合尺寸N = N1 * N2的信号的DFT分成大小为N2的N1个DTF。因此，对于通过乘以FFTW中提供专用有效算法的小素数因子（2,3,5,7）而获得的复合尺寸，它更好。来自documentation of FFTW：

例如，标准FFTW分布对于大小可以被分解为小素数（2,3,5和7）的数组效率最高，否则它使用较慢的通用例程。如果您需要其他大小的高效转换，您可以使用FFTW的代码生成器，它可以为您可能关心的任何特定阵列大小生成快速C程序（“codelet”）。例如，如果需要大小为513 = 19 * 33的变换，则可以自定义FFTW以有效地支持因子19。

您的衬垫尺寸具有很高的素数因素：

931=>962=2*13*37
411=>442=2*13*17
806=>837=3*3*3*31

填充可以扩展到更接近具有小素数的数字，例如980,448和864。然而，填充3D图像会导致内存占用量显着增加，从而无法始终如一。

为什么更改尺寸的顺序会改变计算时间？差异可能是由于输入数组是真实的。因此，在维度之一上执行R2C DFT，然后在第二维度和第三维度上执行C2C以计算3D DFT。如果要变换的第一维的大小是偶数，则可以将R2C变换转换为一半大小的复数DFT，如here所示。这个技巧不适用于奇数尺寸。因此，一些快速算法可能变得可用，因为962和837被翻转。

这是一个测试它的代码：

import pyfftw
import matplotlib.pyplot as plt
import multiprocessing
import numpy as np
from timeit import default_timer as timer

def listofgoodsizes():
    listt=[]
    p2=2
    for i2 in range(11):
        p3=1
        for i3 in range(7):
            p5=1
            for i5 in range(2):

                listt.append(p2*p3*p5)
                p5*=5
            p7=1
            for i7 in range(2):
                listt.append(p2*p3*p7)
                p7*=7

            p3*=3
        p2*=2
    listt.sort()
    return listt

def getgoodfftwsize(n,listt):
    for i in range(len(listt)):
        if listt[i]>=n:
            return listt[i]
    return n

def timea3DR2CDFT(n,m,p):
    bb = pyfftw.empty_aligned((n,m, p), dtype='float64')
    bf= pyfftw.empty_aligned((n,m, (p/2+1)), dtype='complex128')
    pyfftw.config.NUM_THREADS = 1 #multiprocessing.cpu_count()
    fft_object_b = pyfftw.FFTW(bb, bf,axes=(0,1,2))

    print n,m,p
    start = timer()
    fft_object_b(bb)
    end = timer()
    print end - start

#three prime numbers !      
n=3*37
m=241
p=5*19

timea3DR2CDFT(n,m,p)



# to even size :
neven=2*((n+1)/2)
meven=2*((m+1)/2)
peven=2*((p+1)/2)

timea3DR2CDFT(neven,meven,peven)


#to nearest multiple of prime
listt=listofgoodsizes()

ngood=getgoodfftwsize(n,listt)
mgood=getgoodfftwsize(m,listt)
pgood=getgoodfftwsize(p,listt)

timea3DR2CDFT(ngood,mgood,pgood)

在我的电脑上，它打印：

111 241 95
0.180601119995
112 242 96
0.0560319423676
112 252 96
0.0564918518066