前 Anthropic 研究员雅各布·考克森警告 AI 自动化研究可能带来失控风险

前 Anthropic 和 OpenAI 研究员雅各布·考克森警告，AI 很快可能自主开展研究，人类或难以掌控后续发展。他在纽约市议会 AI 风险听证会上称，前沿 AI 实验室正以自动化 AI 研究为目标，并提到 OpenAI 曾为自动化 AI 研究员设定 2027 年、2028 年前后的阶段性目标。