访问CUDA中的共享内存

Access to Shared Memory in CUDA

本文关键字:共享 内存 CUDA 访问      更新时间:2023-10-16

我将向内核传递3个大小为N=224的数组。内核本身调用另一个函数foo(threadIdx.x),foo调用另一函数bar(i),其中i从1变为224。第二个函数需要访问传递给内核的数组,但我现在的代码告诉我参数i是未定义的。

我试图将数组的副本保存到共享内存中,但没有成功:

__global__ void dummy(double *pos_x_d, double *pos_y_d, double *hist_d){
    int i = threadIdx.x;
    hist_d[i]=pos_x_d[i]+pos_y_d[i];
    __syncthreads();
    
    foo(i);
    __syncthreads();
}

主机代码看起来像:

cudaMalloc((void **) &pos_x_d,(N*sizeof(double)));
cudaMalloc((void **) &pos_y_d,(N*sizeof(double)));
cudaMalloc((void **) &hist_d,(N*sizeof(double)));
//Copy data to GPU
cudaMemcpy((void *)pos_x_d, (void*)pos_x_h,N*sizeof(double),cudaMemcpyHostToDevice);
cudaMemcpy((void *)pos_y_d, (void*)pos_y_h,N*sizeof(double),cudaMemcpyHostToDevice);
//Launch Kernel
dummy<<<1,224>>>(pos_x_d,pos_y_d,hist_d);

是否可以启动两个内核,第一个是将数据发送到共享内存。然后,第二次做计算?我还需要在第二个内核上循环,这就是为什么我首先要在共享内存中发送数据。错误来自第89、90行,这意味着它与共享内存有关。完整的代码在这里。

是否可以启动两个内核,第一个是将数据发送到共享内存。然后,第二次做计算?

不,这是不可能的。共享内存的生存期是与该共享内存相关联的线程块。线程块无法可靠地使用共享内存中不同线程块存储的值(无论是来自相同还是不同的内核启动)。

将数据从一个内核启动保存到下一个内核的唯一方法是通过全局内存(或主机内存)。