跳到正文
原文
OpenAI News·· 13 天前精选AI 评分62

OpenAI 改进 GPT-6 提示词缓存,提升命中率并加入新控制

Better prompt caching for GPT-6

AI 导读

OpenAI 介绍 GPT-6 的提示词缓存改进,包括更高缓存命中率、新诊断、显式断点,以及可降低延迟和成本的控制项。

推荐理由

材料概括了缓存命中率、诊断和断点控制的变化,可用于评估 GPT-6 调用成本优化思路。

来源:OpenAI News · openai.com