tritonclient.utils.shared_memory#

函数

create_shared_memory_region(triton_shm_name, ...)

返回具有指定名称和大小的系统共享内存区域的句柄。

destroy_shared_memory_region(shm_handle)

释放句柄，如果它是最后一个被管理的句柄，则取消链接具有指定句柄的系统共享内存区域。

get_contents_as_numpy(shm_handle, datatype, ...)

使用句柄指定的系统共享内存区域中存储的数据生成 numpy 数组。

mapped_shared_memory_regions()

返回所有已映射但未取消映射/销毁的系统共享内存区域。

set_shared_memory_region(shm_handle, ...[, ...])

将 numpy 数组的内容复制到系统共享内存区域中。

类

SharedMemoryRegion(triton_shm_name, shm_key)

异常

SharedMemoryException

共享内存相关错误的异常类型。
exception tritonclient.utils.shared_memory.SharedMemoryException#

共享内存相关错误的异常类型。

class tritonclient.utils.shared_memory.SharedMemoryRegion(triton_shm_name: str, shm_key: str)#
tritonclient.utils.shared_memory.create_shared_memory_region(
triton_shm_name,
shm_key,
byte_size,
create_only=False,
)#

返回具有指定名称和大小的系统共享内存区域的句柄。

参数:

  • triton_shm_name (str) – 要创建的共享内存区域的唯一名称。

  • shm_key (str) – 共享内存对象的唯一键。

  • byte_size (int) – 要创建的共享内存区域的大小，以字节为单位。

  • create_only (bool) – 是否必须创建共享内存区域。如果为 False 且存在同名的共享内存区域，则将返回该共享内存区域的句柄，用户必须注意先前分配的共享内存大小可能与请求的大小不同。

返回:

shm_handle – 系统共享内存区域的句柄。

返回类型:

SharedMemoryRegion

Raises:

SharedMemoryException – 如果无法创建共享内存区域。

tritonclient.utils.shared_memory.destroy_shared_memory_region(shm_handle)#

释放句柄，如果它是最后一个被管理的句柄，则取消链接具有指定句柄的系统共享内存区域。

参数:

shm_handle (SharedMemoryRegion) – 系统共享内存区域的句柄。

Raises:

SharedMemoryException – 如果无法取消链接共享内存区域。

tritonclient.utils.shared_memory.get_contents_as_numpy(shm_handle, datatype, shape, offset=0)#

使用句柄指定的系统共享内存区域中存储的数据生成 numpy 数组。

参数:

  • shm_handle (SharedMemoryRegion) – 系统共享内存区域的句柄。

  • datatype (np.dtype) – 要返回的数组的数据类型。

  • shape (list) – 描述要返回的数组形状的整数列表。

  • offset (int) – 从区域开始的偏移量（以字节为单位），您希望从中提取数组。默认值为 0。

返回:

使用指定共享内存区域的内容生成的 numpy 数组。

返回类型:

np.array

tritonclient.utils.shared_memory.mapped_shared_memory_regions()#

返回所有已映射但未取消映射/销毁的系统共享内存区域。

返回:

已映射的系统共享内存区域的列表。

返回类型:

list

tritonclient.utils.shared_memory.set_shared_memory_region(shm_handle, input_values, offset=0)#

将 numpy 数组的内容复制到系统共享内存区域中。

参数:

  • shm_handle (SharedMemoryRegion) – 系统共享内存区域的句柄。

  • input_values (list) – 要复制到共享内存区域中的 numpy 数组列表。

  • offset (int) – 从区域开始的偏移量（以字节为单位），您希望将数组复制到其中。默认值为 0。

Raises:

SharedMemoryException – 如果无法在系统共享内存区域中 mmap 或设置值。

在本页上