Project-HAMi avatar

Project-HAMi/HAMi

4.8k 868 27
Go Apache-2.0
创建于 5 年前 最后更新 1 周前 +20 stars today

AI 综合评分

79 A 级
代码质量
73
文档质量
82
社区健康
76
项目活跃
85
创新性
70

项目简介

Kubernetes 异构 GPU 虚拟化与统一共享调度系统

项目摘要

主题

在 Kubernetes 上打破 GPU 品牌壁垒,让多种异构显卡像水电一样随取随用,彻底告别算力碎片。

核心分点总结

  1. 全栈异构兼容 一张卡,一个集群,通吃 NVIDIA、华为昇腾、寒武纪、摩尔线程、海光、天数智芯等主流 GPU,提供统一资源抽象。

  2. 细粒度共享隔离 支持 vGPU 切分、显存与算力硬隔离,多容器安全共享同一物理 GPU,算力零争抢。

  3. 原生 K8s 集成 作为 Device Plugin 和调度扩展无缝接入,无需修改应用代码,Helm 一键部署,即插即用。

  4. 智能拓扑调度 感知 GPU 拓扑与负载状态,自动优化放置,减少碎片,提升集群整体利用率。

  5. 生产级稳定性 历经大规模 AI 训练与推理场景验证,已入选 CNCF 沙箱项目,社区活跃,持续演进。

行动指南

  1. 当你的集群混合了多种品牌 GPU,运维被驱动冲突和调度碎片折磨时,部署 HAMi 可统一纳管,化混乱为秩序。
  2. 从官方 Helm Chart 快速安装,配置 DevicePlugin 和 Scheduler,参考示例 YAML 即可让 Pod 申请 vGPU。
  3. 在 AI 开发环境中,利用 vGPU 功能让多个实验共享一张卡,告别排队等卡,资源利用率翻倍。

金句总述

让每一滴 GPU 算力都不被浪费,无论它来自哪家厂商。

故事性收尾

曾经,运维工程师在深夜为不同型号的 GPU 驱动冲突而头疼,开发者排队等待空闲显卡。如今,HAMi 化混乱为秩序,GPU 资源像水电一样随取随用,集群利用率翻倍,创新不再被硬件束缚。

相关项目推荐