跳到正文
原文
The Decoder· Jonathan Kemper·· 1 天前AI 评分69

Google 研究人员提出 RRSI,减少自改进 AI 智能体记忆测试任务

Google researchers find a way to keep self-improving AI agents from memorizing their tests

AI 导读

Google 研究人员在一篇新论文中提出 RRSI,用于限制自改进 AI 智能体在反复优化 harness 时记住固定测试任务。RRSI 通过逐步缩小编辑预算、记录失败尝试、用 critic 剔除硬编码任务名或答案等 benchmark-specific tricks,并只在有可测性能增益时接受更高计算成本。

来源:The Decoder · the-decoder.com