跳到正文
原文
NVIDIA Developer· Elizabeth Goodman·· 19 小时前AI 评分25

NVIDIA Green Contexts:控制 GPU 如何共享工作

Control How Your GPU Shares Work with Green Contexts

AI 导读

NVIDIA Green Contexts 用于控制单进程内多个独立组件共享 GPU 资源的方式。适用于延迟敏感算子与吞吐导向后台 kernel、数据预处理与模型推理、多阶段工作流共用单个 GPU 的场景。

来源:NVIDIA Developer · developer.nvidia.com