AI@NEWS

CUDA 13.4实现GPU共享显存硬隔离

Kubernetes可用CUDA 13.4限制共享GPU工作负载的显存占用,提升利用率并减少相互干扰。

推荐理由:关键变化是将共享GPU的显存配额从调度约定变成可执行限制,使碎片化推理任务能安全共卡;平台可提高利用率,同时降低单任务耗尽显存拖垮邻居的风险。

阅读原文