微软 CEO 纳德拉称开发者应默认假设 AI 模型失控并设计中断机制

微软 CEO 萨蒂亚·纳德拉认为，开发者应默认假设 AI 模型可能被破坏，并从一开始设计可暂停或关闭任务的遏制机制。他在北京时间 10 月 10 日晚的长文中称，AI 模型比传统软件更强大却是黑盒，模型提供商不能把责任外包出去。纳德拉提出的原则包括模型多样性、观察一切、可验证性、独立控制、独立审计性、遏制和事件披露。