如何在gpu中创建矩阵并在cpu上打印？

Question

这是一个在gpu上创建矩阵并在cpu上打印出来的代码。谁能告诉我哪里出错了。谢谢。

# include <stdio.h>


__global__ void create(int **d_a){
    int i = threadIdx.x;
    int j = threadIdx.y;

    d_a[i][j] = 1;
}


void errorCheck(){
    cudaError_t error = cudaGetLastError();
    if(error != cudaSuccess){
        // print the CUDA error message and exit
        printf("CUDA error: %s\n", cudaGetErrorString(error));
        exit(-1);
    }
}

# define N 5
int main(){
    int **d_a, **a;

    a = (int**)malloc(N * sizeof(int*));

    for (int i =0; i < N; i++){
        a[i] = (int*)malloc(N*sizeof(int));
    }

    cudaMalloc((void***)&d_a, N*sizeof(int*));

    for (int i =0; i < N; i++){
        cudaMalloc((void**)&d_a,N*sizeof(int));
    }

    errorCheck();
    create <<<1, N>>>(d_a);
    errorCheck();
    cudaMemcpy(a, d_a, (N*N)*sizeof(int),cudaMemcpyDeviceToHost);


    for (int i =0; i < N; i++ ){
        for (int j = 0; j < N; j++ ){
            printf("%d", a[i][j]);
        }
        printf("\n");
    }

    cudaFree(d_a);
    free(a);

    return 0;
}

内存分配或memcpy有问题吗？

Answer 1

内存分配或memcpy有问题吗？

两个都是的。

这个：

cudaMalloc((void***)&d_a, N*sizeof(int*));
for (int i =0; i < N; i++){
    cudaMalloc((void**)&d_a,N*sizeof(int));
}

必须这样做：

cudaMalloc((void***)&d_a, N*sizeof(int*));
for (int i=0; i < N; i++){
    int *row;
    cudaMalloc((void**)&row, N*sizeof(int));
    cudaMemcpy(d_a+i, &row, sizeof(int*), cudaMemcpyHostToDevice);
}

然后这个：

create <<<1, N>>>(d_a);
errorCheck();
cudaMemcpy(a, d_a, (N*N)*sizeof(int),cudaMemcpyDeviceToHost);

必须这样做：

create <<<1, dim3(N,N)>>>(d_a);
errorCheck();
for(int i=0; i<N; i++) {
    int* row;
    cudaMemcpy(&row, d_a+i, sizeof(int*), cudaMemcpyDeviceToHost);
    cudaMemcpy(a[i], row, sizeof(int) * N, cudaMemcpyDeviceToHost);
}

[所有代码均以浏览器编写，未经测试，使用风险自负]

简而言之，您决定使用一系列指针。这需要额外的CUDA API操作，因为GPU副本中的行指针无法通过标准分配在主机上访问。你必须在每种情况下使用cudaMemcpy。