起因是我发现我们客户在做GPU基准测试的时候,使用的是OrionX驱动科技的方案,并且它是优于原生的k8s调度方案的,那么有没有开源版本的类似的组件,可以让我来进行测试呢?
有的兄弟有的
GPU 虚拟化方案调研[table]
“完整 GPU 虚拟化”需要替换 libcuda.so,自己做不现实
这是核心结论。要实现真正的显存隔离 + 算力比例控制,需要在 CUDA 驱动层做拦截(hook libcuda.so),这活只有趋动科技和 HAMi 这类专业项目才做得好。
NVIDIA 原生方案的局限
text123456Time-Slicing: Pod A 用 10ms → Pod ...