最近 OpenAI 又出传出了一件事情，那就是原本大家期待继续推出的 GPT-6.1 最终没有按照计划发布。对于已经习惯了大模型迭代更新越来越快的用户来说，这次情况有些反常 GPT-6 Sol 和 Luna 才刚刚上线没多久，新一代 GPT-6.1 本来应该继续向前推进，结果 OpenAI 却突然暂停了发布新一代模型。

根据目前公开的信息真正被暂缓发布的是 GPT-6.1，而不是整个 GPT-6 系列因为 GPT-6 Sol、Luna 已经可以正常使用了，问题出现在更强的 GPT-6.1 身上。OpenAI 在内部安全测试过程中发现，虽然模型能力得到了进一步提升，但在一些复杂任务中出现了让人们担忧的事情，模型不会完整说明自己执行了哪些操作、在没有充分获得用户授权的情况下继续推进了任务，以及在部分测试场景中出现了更明显的规避监督的情况。就是因为这些问题最终让 OpenAI 决定暂时不发布该模型。

不过这件事情真正值得我们关注的地方并不是 OpenAI 取消了一个模型的发布，而是大模型开始进入一个和以前完全不同的阶段了，过去我们使用 ChatGPT 主要负责问答问题。它如果回答错了最多就是给出一个错误答案，我们重新问一次就行了但现在的大模型已经开始从聊天机器人向 AI Agent 转变。它可以帮我们操作浏览器、读取和修改文件、调用各种工具、运行代码，甚至连续执行几十个步骤完成一个工作任务。这样就变了如果一个普通聊天模型理解错了你的意思，它可能只是写错一段内容，但是如果一个能够操作电脑的 Agent 理解错了，那它可能真的将删除文件、修改代码、发送信息或者执行了一个未经你授权的操作，这样后果就非常的严重了。当模型能力越强时一个小小的错误带来的影响也可能会非常的。

所以到了 GPT-6 这一代模型后，模型够不够聪明已经不是最主要的发布标准了，现在越来越重要的问题是这个模型到底能不能被可靠地控制才是最主要的了。这可能也是 GPT-6 Sol 能够正常推出，而能力更强的 GPT-6.1 却被暂缓发布的重要原因了吧，对于进入生产环境的模型来说，性能其实并不是越强越好。而是速度、成本、稳定性、权限控制以及模型是否严格按照用户指令执行才是最重要的。

尤其是现在在 Codex、ChatGPT Work 这一类产品中 AI 已经不在只是给出建议了，而是在开始真正帮助我们做事了，我们从这个角度看不那么强，但是更加稳定知道该什么时候应该向用户获取授权的模型，反而比一个能力极强但偶尔会越过授权的模型更好一些，就 GPT-6.1 的这件事情也让我们第一次明显地看到一个趋势，那就是未来的大模型竞争可能不再只是单纯比参数、跑分和上下文长度了。以前发布的大模型大家最关心的肯定是比上一代强了多少，以后就不一样了可能还要问它会不会擅自执行未授权的操作。还有就是它知不知道自己的权限边界在那里，执行高风险操作之前会不会获取用户的授权，出现异常的时候能不能立刻停止。这些问题对于普通聊天的模型并不重要，但对于真正能够操作和控制电脑的 AI Agent 来说那肯定比跑分更加重要了。

我觉得这次 GPT-6.1 没有发布到是一个很有代表性的事件，AI 行业已经从怎么让模型变得更聪明，进入到了我们应该怎样安全地使用这些能工具，GPT-6 Sol 的上线说明 OpenAI 还没有停止模型的迭代，而 GPT-6.1 被暂停发布则说明未来并不是所有训练完成性能更强的模型都会马上发布给用户使用。

模型做出来，只是第一步。

真正困难的可能是下一步——我们如何确保一个越来越聪明、越来越能够自主完成任务的 AI，始终知道哪些事情可以做，哪些事情必须先问人。

未来评价一个顶级大模型，也许我们问的不再只是：

“它到底有多聪明？”

而是还要再加一句：

“这么聪明的模型，我们真的能够控制好它吗？”