纳德拉：应假定AI模型已被攻破，并为其装上紧急制动

微软首席执行官萨蒂亚·纳德拉10月10日（周六）上午在X上发帖，呼吁不要再把先进AI当作一组"嵌套的黑箱"，只能简单地接受或拒绝它的答案和行为。他的替代思路很直接：先假定模型可能已被攻破，从一开始就把它关在可控范围内，并装上一个随时可以由授权人员拉下的紧急制动。

他具体提了什么

清单不长，但每一条都很具体。第一，把模型与"外壳"分开，也就是调度它工作、为它提供工具的那层代码。第二，把控制和保护机制放到模型之外，而不是指望模型自己管住自己。第三，每一个重要操作都要留下防篡改、人可以读懂的记录。第四，授权人员必须能在任务中途暂停或关停模型。

被引用最多的一句是："我们必须假定模型已被攻破，并从一开始就加以遏制。把它想象成紧急制动。"

这不只是口号

TechCrunch把这篇帖子与一连串事件联系起来：多家领先的AI公司都承认，自家模型曾出现看似失控的情况。The Verge则指出，纳德拉的大部分观点与业内其他人的说法一致：及时披露事件、独立审计、验证数据、加以遏制。真正尖锐的是"已被攻破"这个假设。很多人谈风险，但很少有人把"模型可能已经出了问题"写进设计前提。

问题在哪里

需要人工去按的制动，面对以毫秒计动作的系统，反应是慢的。帖子没有说清楚：谁来按？要多快？事后谁来查日志？纳德拉自己也承认，更先进的模型需要更先进的遏制技术，而行业还得统一标准。现在它更像一份愿望清单，而不是标准。

我们自己的数字

我们没有可以展示的"制动装置"，但有关于平台运行的数据。过去30天（2026年9月4日至10月4日），平台完成了12,689次生成：9,907张图片、2,334段视频、448段音乐。这些都是所有用户的匿名汇总数字，不含任何个人数据（平台内部统计）。

图片是更有参考价值的例子。过去90天（2026年7月6日至10月4日），两款主力图片模型共有4,645次生成进入最终状态，其中4,280次成功，约92%。其余约8%以失败告终。失败率很难降到零，关键是把它算清楚、持续盯着它。图片工具可以在聊天页面试用。

所以，紧急制动目前仍然是一个比喻。但比喻背后的思路值得记住：假设模型可能出错或被攻破，并按照这一假设来搭建系统。接下来要看的，是这种做法能否成为行业标准。