LogicOverlord

PaddlePaddle通过REGISTER_OPERATOR宏来进行算子注册，以paddle/fluid/operators/gru_unit_op.cc为例，其注册代码如下: 其中ops::GRU

基于paddle 2023.4左右的版本 使用python setup.py可以直接安装PaddlePaddle，首先其内部会先调用最外层的CMakeLists.txt（setup.py的build_

1.C++侧 cout<<Tensor; C++侧中tensor的输出流重载代码位于 /home/pytorch/aten/src/ATen/core/Formatting.cpp:260，代码如下:

mmcv模仿pytorch，通过dispatcher根据算子的信息将算子分发到不同的函数，从而实现代码的复用，下面以upfirdn2d为例，介绍mmcv的算子注册及算子分发原理。 1. python和

在shuffle指令主要用于让一个warp中的线程能直接访问另一个warp中线程的寄存器，从而实现数据的交换，而无需通过共享内存或者全局内存，如《Professional CUDA C Program

共享内存位于GPU的SM中，由一个线程块(thread block)中的线程共同使用。共享内存的延迟比全局内存(global memory)低20到30倍，带宽高约10倍。如《Professional

一、固定内存(pinned memory) 默认在host端分配的内存都是pageable的(Pageable memory space means memory contents that can

优势：指针可以为空或无效。引用保证它有效且不为空（不存在空引用） 例:```cpp #include <iostream> using namespace std; void doCall( voi

高效的全局内存访问需要保证一点： 相邻的线程访问相邻的数据。（This is oversimple, but the correct way to do it is just have consecu