__device__ CUDA 上的调用堆栈跟踪

Question

我想在 CUDA

__device__

函数中获取调用跟踪，类似于

backtrace

。可以这样做吗？

Answer 1

不幸的是，不可能在 CUDA device 函数中获取调用跟踪或回溯，因为设备代码中对调试和跟踪的支持有限。设备代码在 GPU 上运行，无法直接访问主机系统的调试和分析工具。

但是，您可以在设备代码中使用 printf 语句来打印有关执行流程和变量值的信息。您还可以使用 NVIDIA Nsight Systems 或 NVIDIA Visual Profiler 来分析和分析 CUDA 内核的性能。

示例

以下示例说明了如何在 CUDA 内核中使用 printf 语句来打印有关执行流程和变量值的信息：

#include <stdio.h>

__global__ void cudaKernel(int* A, int* B, int* C, int size) {
    int threadId = blockIdx.x * blockDim.x + threadIdx.x;
    
    // Print thread information
    printf("Thread %d starting execution\n", threadId);
    
    if (threadId < size) {
        // Print input values
        printf("Input values A[%d] = %d, B[%d] = %d\n", threadId, A[threadId], threadId, B[threadId]);
        
        // Perform computation
        C[threadId] = A[threadId] + B[threadId];
        
        // Print result
        printf("Result C[%d] = %d\n", threadId, C[threadId]);
    }
}

int main() {
    int size = 10;
    
    int A[size], B[size], C[size];
    int* d_A, *d_B, *d_C;
    
    // Initialize input arrays A and B
    for (int i = 0; i < size; i++) {
        A[i] = i;
        B[i] = i * 2;
    }
    
    // Allocate device memory
    cudaMalloc((void**)&d_A, size * sizeof(int));
    cudaMalloc((void**)&d_B, size * sizeof(int));
    cudaMalloc((void**)&d_C, size * sizeof(int));
    
    // Copy input arrays to device
    cudaMemcpy(d_A, A, size * sizeof(int), cudaMemcpyHostToDevice);
    cudaMemcpy(d_B, B, size * sizeof(int), cudaMemcpyHostToDevice);
    
    // Launch kernel
    cudaKernel<<<1, size>>>(d_A, d_B, d_C, size);
    
    // Copy result array back to host
    cudaMemcpy(C, d_C, size * sizeof(int), cudaMemcpyDeviceToHost);
    
    // Print result array
    printf("Final result array C: ");
    for (int i = 0; i < size; i++) {
        printf("%d ", C[i]);
    }
    printf("\n");
    
    // Free device memory
    cudaFree(d_A);
    cudaFree(d_B);
    cudaFree(d_C);
    
    return 0;
}

在此示例中，CUDA 内核

cudaKernel

获取输入数组

A

和

B

，按元素将它们相加，并将结果存储在数组

C

中。它还使用 printf 语句打印出有关线程执行流程、输入值和结果值的信息。

您可以在支持 CUDA 的 GPU 上运行此代码，并观察控制台中的打印输出以查看执行流程和变量值。此外，您可以使用 NVIDIA Nsight Systems 或 NVIDIA Visual Profiler 来分析和分析 CUDA 内核的性能，以识别瓶颈并优化代码以获得更好的性能。

如果您需要有关设备代码中的执行流程或回溯的更多详细信息，您可能需要重构代码以将必要的信息传递回主机代码并在主机端执行跟踪。