HAMi 核心设计

介绍

HAMi-core 是一个用于 CUDA 环境的钩子库，它是容器内的 GPU 资源控制器，已被 HAMi 和 volcano 采用。

特性

HAMi-core 具有以下特性：

1. 虚拟化设备显存

1. 通过自实现的时间分片限制设备利用率

2. 实时设备利用率监控

设计

HAMi-core 通过劫持 CUDA-Runtime(libcudart.so) 和 CUDA-Driver(libcuda.so) 之间的 API 调用来操作，如下图所示：