NVIDIA Developer· Elizabeth Goodman·· 19 小时前AI 评分25
NVIDIA Green Contexts:控制 GPU 如何共享工作
Control How Your GPU Shares Work with Green Contexts
AI 导读
NVIDIA Green Contexts 用于控制单进程内多个独立组件共享 GPU 资源的方式。适用于延迟敏感算子与吞吐导向后台 kernel、数据预处理与模型推理、多阶段工作流共用单个 GPU 的场景。
来源:NVIDIA Developer · developer.nvidia.com