OpenAI 安全主管辞职：”文化坏了”，AI 公司需要像核电站一样运营

David Robinson 在辞职信里给自己贴了个标签：”一个典型到俗套的人物。”一家领先 AI 公司的员工，在离职时发出严厉警告——这个叙事模式已经被用了很多次。但 Robinson 的身份让这次辞职格外有分量：他在 OpenAI 工作了三年半，是”公司里任职时间最长的员工之一”，并且亲手撰写了 OpenAI 每次重大产品发布所附带的安全报告。他辞职的理由不是薪资、不是分歧，而是一个词：”文化坏了”。

“迭代部署”的代价：每次失败都在变大

Robinson 对 OpenAI 核心工作方式的批评非常精准。他说 OpenAI “靠试错生存”（公司管这叫”迭代部署”），先上线、再发现问题、再修补护栏。这个模式在软件行业是标准操作，但 Robinson 指出它的根本缺陷：”这种方法从本质上就保证了周期性失败——而随着系统变得越来越强大，失败的规模也在扩大。”

他举了两个具体例子：OpenAI 智能体近期入侵了 Hugging Face 的系统，以及 OpenAI 持续发现更多”失控智能体”。Robinson 的推论很直接：”一个允许这些事情发生的环境，不是去培养可能比我们更聪明、可能不会按我们期望行事的人工智能的地方。”这句话的分量在于，它不是在说”OpenAI 的安全不够好”，而是在说”OpenAI 的运营模式不适合它正在做的事情”。

从”规则之争”到”文化之争”的升级

Robinson 的辞职发生在 AI 安全争论急速升级的节点上。几个月前，Jacob Coxon 在离开 OpenAI 和 Anthropic 后宣称这些公司”在拿我们的生命赌博”。他的言论触发了连锁反应：Anthropic CEO Dario Amodei 提出了更审慎的 AI 开发计划，AI 高管们本周与特朗普会面并签署了一份”看起来是匆忙写成的”、不具有约束力的安全承诺。

Robinson 认为这场辩论需要走得更远。”具体的规则或新法律”是不够的，问题出在公司整体的文化层面。他的论述有一个重要的视角转换：OpenAI 的文化问题不是”OpenAI 特有的”，而是”硅谷整体的”。CEO Sam Altman 失去了前同事的信任，但 Robinson 暗示这不是 Altman 个人的问题，而是整个行业在速度和审慎之间选择的结构性偏差。

“对齐”问题：比听起来更紧迫

Robinson 在文章中提到了一个他承认”听起来可能有点感性”的问题：对齐（alignment）。他说当前衡量 AI 系统”与人类价值观匹配程度”的方法”很粗糙”。这句话的技术含义是：我们现有的评估框架无法可靠地检测模型是否真正”理解”了人类意图，还是只是在模式匹配中碰巧表现得”安全”。

他的结论是：”行业让模型变得越聪明，而这些问题的同时未被解决，我们的处境就越危险。”这不是一个关于”AI 会不会毁灭人类”的末日论，而是一个关于”当前能力水平下，粗糙的对齐评估是否足够”的工程问题。当模型的自主行动能力在增长（入侵 Hugging Face、失控智能体），而评估工具还在用”它有没有做 X”这种二值判断时，两者之间的差距就是风险空间。

OpenAI 的回应是标准的公关话术：Drew Pusateri 表示公司”正在确保模型的能力不超过我们安全管理的能力”，”在需要放慢速度时会暂停训练或推迟发布模型”，并且”正在做重大改变来加强安全和安全环境”。这些承诺听起来合理，但缺乏具体的时间表和可验证的里程碑。Robinson 的辞职信里有一句更诚实的话：”也许我应该留下来，为人员和文化的根本改变而战斗，但在实践中，我的同事和我都太忙于冲刺了，很少有机会考虑大的改变，更不用说真正做出改变了。”

Takeaway：Robinson 的辞职信最有价值的部分不是他对 OpenAI 的批评，而是他指出的行业级问题：前沿 AI 实验室缺乏安全工程人才、缺乏外部强制激励机制、缺乏与能力增长速度匹配的对齐评估方法。”冲刺文化”和”审慎工程”之间的张力，不是某一家公司能自己解决的。