Anthropic 报告称 Claude 可自动缓解 10 类对齐失败

Anthropic 发布报告称，Claude 可自主训练模型，改善 10 类对齐失败在多个公开基准上的表现。实验中，Claude 通过检索文献、提出方法和数据、训练与测试的循环工作，找到的修复方法在 10 类问题上都提升了目标基准且未降低预设能力，并在 withheld alignment benchmarks、Petri 和最高 4.7 times 更大的模型上保持有效。