什么是 HAMi？

HAMi: 异构 AI 计算虚拟化中间件

异构 AI 计算虚拟化中间件（HAMi），前称为 k8s-vGPU-scheduler，是一个设计用于管理 k8s 集群中异构 AI 计算设备的“全合一”图表。它可以提供在任务之间共享异构 AI 设备的能力。

HAMi 是一个云原生计算基金会的沙箱项目和景观项目以及CNAI 景观项目。

为什么选择 HAMi

• 设备共享

  • 支持多种异构 AI 计算设备
  • 支持多设备容器的设备共享

• 设备显存控制

  • 容器内的硬限制
  • 支持动态设备显存分配
  • 支持按 MB 或百分比分配内存

• 设备规格

  • 支持指定某种类型的异构 AI 计算设备
  • 支持使用设备 UUID 指定某个异构 AI 计算设备

• 易于尝试

  • 对容器内的任务透明
  • 使用 helm 安装/卸载，简单且环保

• 开放和中立

  • 由互联网、金融、制造、云服务提供商等共同发起
  • 目标是与 CNCF 进行开放治理

下一步

以下是一些推荐的下一步操作：

• 了解 HAMi 的架构。
• 开始安装 HAMi。