CUDA，atomicAdd函数

在CUDA编程中，atomicAdd函数是一个原子操作函数，用于在全局内存或共享内存中进行原子加操作。原子操作指的是对于多个线程同时访问同一块内存时，保证操作的原子性，即每次只有一个线程可以访问该内存，并且保证操作的顺序性。这个函数可以用来实现并行计算中的累加操作，例如矩阵加法、向量加法等。

atomicAdd函数的函数原型如下：

int atomicAdd(int* address, int val);
unsigned int atomicAdd(unsigned int* address, unsigned int val);
unsigned long long int atomicAdd(unsigned long long int* address, unsigned long long int val);
float atomicAdd(float* address, float val);
double atomicAdd(double* address, double val);

其中，第一个参数是一个指向全局内存或共享内存的指针，第二个参数是要加的值。这个函数会原子地将地址为address的内存位置的值与val相加，并返回原来的值。这个函数具有原子性，因此可以在多个线程同时执行的情况下保证正确性。此外，atomicAdd函数还支持int、unsigned int、unsigned long long int、float和double等多种数据类型。

下面是一个示例，展示了如何使用atomicAdd函数在CUDA中实现向量加法：

__global__ void vectorAdd(int* a, int* b, int* c, int n) {
    int i = blockDim.x * blockIdx.x + threadIdx.x;
    if (i < n) {
        atomicAdd(&c[i], a[i] + b[i]);
    }
}

这个示例中，每个线程计算一个向量c的一个元素。通过调用atomicAdd函数，每个线程可以将a和b向量对应元素的和累加到c向量对应元素中。由于atomicAdd函数具有原子性，因此可以保证线程安全，从而避免了竞争条件的出现。