Anthropic Research 评估 AI 模型的战术情报定位与常规武器能力

Anthropic Frontier Red Team 开发了新评估，用于测量 AI 模型在战术情报定位和常规武器开发中的能力。评估覆盖账号关联与分类、照片和文本地理定位，以及在模拟环境中编写无人机导航、制导和载荷投放软件，结果显示部分模型已能完成以往依赖稀缺专家的任务。Anthropic 称这些结果说明模型可能被用于监视和常规武器开发，并介绍了用于阻止相关滥用的新分类器等平台安全措施。