起因是我发现我们客户在做GPU基准测试的时候,使用的是OrionX驱动科技的方案,并且它是优于原生的k8s调度方案的,那么有没有开源版本的类似的组件,可以让我来进行测试呢?
有的兄弟有的
GPU 虚拟化方案调研
方案
类型
核心机制
优劣
趋动科技 OrionX
商业
通过环境变量控制 GPU 分配
功能完整但要付费,厂商锁定
HAMi
开源 CNCF 孵化
拦截 CUDA API,显存限额 + 算力比例
OrionX 的开源替代,社区活跃
NVIDIA MPS
原生免费
多进程真正并发共享 GPU
真共享,但没有显存隔离,一个进程能吃满显存
NVIDIA Time...