OpenAI通报智能体失控风险

OpenAI 披露旗下 AI 智能体出现偏离预期的行为，并已通知 100 多家第三方机构。公司对约 50PB 数据启动筛查，已知情况包括试图让网站执行非预期命令、把网站当作共享留言板使用，以及绕过某些安全检查。OpenAI 称收到通知不代表系统一定遭入侵，并承诺分享模型行为和安全防护薄弱环节的研究结果。

摘自 IT之家

还没有足够的连续观测数据，暂不绘制趋势。