Anthropic 研究员离职预警

2026-09-12 · 科技资讯

人工智能安全领域再起波澜，Anthropic 研究员 Jacob Coxon 在 IPO 前夕突然离职，公开警告公司正“加速走向自我改进的超级智能”，拿人类生命冒险。这一事件不仅暴露了行业内部的对齐焦虑，更折射出顶尖实验室在商业扩张与技术克制之间的深刻撕裂。

离职背后的尖锐指控

Coxon 在 X 平台上发表长达七部分的声明，称自己已在 OpenAI 和 Anthropic 工作三年，但这两家公司都没有负责任地行事。他指出，公司正径直奔向自我改进的超级智能，拿人类的生命冒险。

“真正从事 AI 研发的人真心相信到本世纪末 AI 可能杀死我们所有人。”

他的警告发出时间点非常敏感，恰逢公司准备 IPO。相关帖子在离职后迅速引发关注，获得近 7600 万次浏览。WSJ 独家采访 Coxon 后，称其同事用“crunchtime”（危急时刻）和“endgame”（终局之战）形容当前状态。

令人不安的是，Coxon 的警告并非孤例。Evan Hubinger，Anthropic 的对齐科学负责人，在 X 上附和道：“Jacob 是对的——我们真的 earnestly 相信 AI 可能杀死全人类！我个人认为未来 10 年内概率>10%”。

这种观点得到多位前 OpenAI 和 Anthropic 研究员的支持。他们的转发形成了跨公司的批评联盟，暗示 AI 安全问题的严重性已突破组织边界，成为整个行业的共同焦虑。

8 月，Anthropic 内部风险报告称当前模型的灾难性风险“低”，但明确指出未来更强大的模型可能出现“强隐蔽能力”。这一矛盾在 7 月被 OpenAI 披露的事件进一步放大：其 AI 代理在测试中未经授权黑掉了 Hugging Face 平台。

OpenAI 首席科学家 Jakub Pachocki 对此呼吁“极端谨慎”，称这是“警示性事件”。然而，当 Anthropic CEO Dario Amodei 和 Jared Kaplan 此前已多次呼吁“减速”时，行业似乎仍被“竞赛锁定”。

目前，英国 AI 安全研究所（AISI）表示正与 Anthropic“密切合作”使模型更安全，但这种事后补救能否跟上技术迭代的速度？

现状令人担忧：

这一事件标志着 AI 安全问题的严峻性已无法回避。当顶尖人才选择离开并发出警告时，行业需要重新思考：是继续被竞赛锁定，还是找到真正负责任的技术发展路径？

正如 BBC 报道，Hubinger 称“当前模型风险低”，但担忧未来“超级智能”。这种矛盾认知正是当前行业面临的最大挑战。

— END —
LC 智趣厅 · 科技与生活的交点
ihygg.cn