
NVIDIA DeveloperAI 硬體
掌控 GPU 資源分配:利用 CUDA Green Contexts 實現精準的硬體分割
Control GPU Resource Sharing with CUDA Green Contexts
本文介紹 NVIDIA CUDA 13.1 引入的 Green Contexts 技術,透過硬體層級的 SM 分割與工作佇列配置,解決多個併發 GPU 工作負載因競爭資源而導致的延遲與干擾問題。
2 分鐘閱讀
#performance
1 篇文章

Control GPU Resource Sharing with CUDA Green Contexts
本文介紹 NVIDIA CUDA 13.1 引入的 Green Contexts 技術,透過硬體層級的 SM 分割與工作佇列配置,解決多個併發 GPU 工作負載因競爭資源而導致的延遲與干擾問題。