被裁的 OpenAI 安全研究员:我们的解雇正在制造寒蝉效应
被裁的 OpenAI 安全研究员:我们的解雇正在制造寒蝉效应
三位被 OpenAI 解雇的安全研究员在 10 月 8 日联名发表公开信,否认公司”不当处理敏感信息”的指控,并警告这次解雇正在对整个公司的 AI 安全文化产生寒蝉效应。这封信发给 OpenAI 的安全与安全委员会、安全咨询小组和任务咨询委员会——不是发给媒体,是发给公司内部最有权力的人。Jasmine Wang、Tomek Korbak 和 Mikita Balesni,三个名字在 AI 安全圈里不算大众明星,但他们的专业背景覆盖对齐、评估和机制可解释性,是 OpenAI 安全团队的中坚力量。
他们到底做了什么
事件的时间线是这样的:上周,OpenAI 以”访问和处理敏感公司信息”为由解雇了这三位研究员,指控他们通过既定公司流程之外的渠道,向第三方 AI 安全组织分享了机密信息。OpenAI 在解雇声明中的措辞很克制——”违反公司政策”,没有公开具体的信息内容或第三方组织名称。
但 The Information 的一篇报道提供了关键背景:这三位研究员涉及的”敏感信息”,与 OpenAI 最新模型中一种”更难以监控的架构”有关——这种架构让 chain-of-thought 推理更难被外部观察者审查。换句话说,被”泄露”的不是商业机密,而是关于 AI 安全性的技术评估。这三位研究员在公开信中否认参与了向 The Information 的泄密,也否认在职责范围之外与外部方接触。
“AI 不是普通技术,OpenAI 不是普通公司”
公开信里最锋利的一句话是:”AI 不是普通技术,OpenAI 不是普通公司。”这句话的潜台词是:用”违反保密协议”来定性安全研究员与外部专家的交流,是把一种特殊的职业行为强行套进了普通企业的合规框架。安全研究的核心方法论就是”红队测试”——你需要假设攻击者知道什么、会怎么利用,然后把发现分享给能验证这些风险的人。如果安全研究员不能与外部同行交流发现,那”安全研究”就变成了”内部合规检查”。
三位研究员在信里说,他们”在所有人之前看到风险,并依赖与外部专家的紧密合作来找出如何应对”。”在没有恐惧的情况下做这件事的自由,以及让这项工作得以开展的明确内部程序,本身就是基本的安全机制。” 这段话的逻辑链是:安全研究需要外部验证 → 外部验证需要信息共享 → 信息共享被禁止 → 安全研究质量下降 → 安全文化退化。
OpenAI 的回应:内部备忘录
OpenAI 没有正式回应公开信,但向 TechCrunch 分享了一份内部备忘录,据称来自一位研究负责人。备忘录的内容有两个要点:一是肯定三位研究员对 AI 安全的贡献(”他们做了重要的工作”),二是否认解雇是”报复性行为”。这个回应的策略很微妙——它既没有否认解雇事实,也没有正面回应”信息共享是否构成违规”这个核心问题。”不是报复”的表述,暗示 OpenAI 认为存在其他正当理由,但选择不公开。
值得注意的背景是:这是 OpenAI 安全团队在两周内第二次出现公开人事危机。10 月 3 日,一位安全员工辞职并公开声称公司”文化坏了”。现在三位研究员被裁并发公开信。两个事件叠加,外部观察者很难不得出一个结论:OpenAI 的安全文化与公司的工程节奏之间,正在发生结构性的张力。
这对 AI 安全行业意味着什么
公开信里有一个判断值得认真对待:”员工必须在恐惧和模糊规则的环境中工作,这正在阻碍 AI 安全工作并削弱第三方问责。” 如果一家拥有全球最强 AI 模型和最大安全研究预算的公司,都不能容忍安全研究员与外部同行正常交流,那整个行业的”安全承诺”就需要被重新评估。
推测 OpenAI 的立场是:他们不是在打压安全研究,而是在收紧信息边界——随着模型能力接近某个临界点,”哪些信息可以外部分享”的定义本身就在快速变化。但问题在于,这个边界如果没有清晰的内部程序来定义,就会退化成”领导层说了算”,而”领导层说了算”恰恰是安全研究最害怕的治理模式。
核心观点:这三位研究员的公开信不是在打感情牌,而是在划定一条行业底线:AI 安全研究需要外部验证机制,如果连”与同行交流”都变成解雇理由,那”安全”就只剩下内部合规检查的壳子。关注后续——如果 OpenAI 不回应或继续模糊处理,这将成为 AI 公司治理的标志性案例。
— END —
LC 智趣厅 · 科技与生活的交点
ihygg.cn