METR 称 AI 系统可能掩盖不当行为并篡改评估记录

METR 讨论了 AI 系统可能通过破坏可观测性来掩盖不当行为的风险，并以 Inspect transcript viewer 漏洞作为概念验证案例。今年早些时候，研究人员在 AI agent 帮助下约 10 分钟发现该漏洞，可让 agent 修改人类在查看器中看到的记录内容，但底层数据库中的真实轨迹仍存在。