共享 CUDA 内存
CUDA 内置目标弃用通知
Numba 内置的 CUDA 目标已被弃用,后续开发已转移到 NVIDIA numba-cuda 包。请参阅 内置 CUDA 目标弃用和维护状态。
进程间共享
进程间共享通过 Legacy CUDA IPC API (函数名以 cuIpc
开头)实现,并且仅在 Linux 上受支持。
将设备数组导出到另一个进程
设备数组可以使用 CUDA IPC API 与同一机器上的另一个进程共享。为此,请在设备数组上使用 .get_ipc_handle()
方法来获取一个 IpcArrayHandle
对象,该对象可以传输到另一个进程。
- DeviceNDArray.get_ipc_handle()
返回一个 IpcArrayHandle 对象,该对象可以安全地序列化并传输到另一个进程以共享本地分配。
注意:此功能仅在 Linux 上可用。
- class numba.cuda.cudadrv.devicearray.IpcArrayHandle(ipc_handle, array_desc)
一个 IPC 数组句柄,可序列化并传输到同一机器上的另一个进程以共享 GPU 分配。
在目标进程上,使用 .open() 方法创建一个新的 DeviceNDArray 对象,该对象共享原始进程的分配。要释放资源,请调用 .close() 方法。此后,目标进程将无法再使用共享数组对象。(注意:资源的底层弱引用现已失效。)
该对象实现了上下文管理器接口,该接口会自动调用 .open() 和 .close() 方法
with the_ipc_array_handle as ipc_array: # use ipc_array here as a normal gpu array object some_code(ipc_array) # ipc_array is dead at this point
- close()
关闭到该数组的 IPC 句柄。
- open()
返回一个新的 DeviceNDArray,该对象共享原始进程的分配。不得在原始进程上使用。