AI 或本十年末毁灭人类？前 Anthropic 研究员警告
**前 Anthropic 研究员警告：AI 或在本十年末毁灭人类**
2026 年 9 月，科技圈被一条来自前 Anthropic 研究员 Jacob Coxon 的离职警告震撼。这位曾在 OpenAI 和 Anthropic 任职约 3 年的资深研究员在 X 平台发文，称”AI 开发者们真的相信 AI 可能在本十年末（2030 年前）毁灭我们所有人”。这条帖文迅速获得超过 1.5 亿次浏览，成为 AI 安全领域最具争议性的言论之一。
**核心争议：10% 的末日概率**
Anthropic 现任安全研究员 Evan Hubinger 在 X 平台上直接回应了这一警告。他表示：”Jacob 在这里是对的——我们确实真的相信 AI 可能杀死全人类！我个人认为未来十年内这种概率大于 10%。”
Hubinger 进一步指出，尽管 Anthropic 正在尽全力研究 AI 安全，但”我们还没有解决超级智能对齐问题的计划”。这一言论被 CNN 安德森·库珀专访引用，引发了更广泛的社会讨论。
**技术阵营的分歧：科学 vs 信仰**
OpenAI 首席科学家 Jakub Pachocki 在博客《An Alien Mind》中呼吁”极端谨慎”。他认为 AI 发展迅速但人类尚未准备好应对后果，建议建立第三方审计网络，并呼吁各方自愿放缓前沿模型训练，直到共同安全护栏建立。
然而，NVIDIA CEO Jensen Huang 在 All-In Summit 期间却给出了截然不同的态度。他表示 AI 存在威胁的说法是”不科学的”，称相关爆料”fine”但科学预测未来”less fine because it’s not grounded on science”。他强调美国可以在安全的前提下领先发展 AI。
更具戏剧性的是，特朗普在 All-In Summit 现场通过电话打断了 Jensen Huang 的发言。他直言”The robots will not be taking over… The whole thing is a hoax”，并称批评 AI 的人”playing right into the hands of political people, that could also be China”。特朗普进一步表示：”The only control or ‘guardrails’ that AI needs is a STRONG AND SMART (High IQ!) PRESIDENT”，将 AI 安全问题简单化为政治立场问题。
**学界反驳：末日幻想掩盖真实危害**
认知科学家 Gary Marcus 发文反驳 CNN 安德森·库珀的 AI 末日论调，称”constant focus on absurd end-of-the-world fantasies has made the situation worse”。他虽然支持 Evan Hubinger 的部分观点，但仍坚持 AI 不会在 2030 年毁灭人类。Marcus 区分了当前 AI 已造成的实际 harm 与末日幻想，认为过度关注后者反而无助于解决真实问题。
**舆论质疑：警告缺乏具体风险场景**
Fortune 杂志评论称，Coxon 的警告”fails to answer most essential question”——具体风险场景是什么。Fortune 认为这是 AI 安全警告首次真正走向 mainstream，公众因此感到”unsettled, anxious, and unsure what to do next”。
核心问题在于：警告者未能提供可信的具体风险模型，这使得公众和政界难以做出理性判断。
**行业影响：AI 安全成为分水岭**
这一系列言论暴露了 AI 行业在安全问题上的深刻分歧：
- 技术悲观派（Coxon、Hubinger、Pachocki）：认为 AI 可能失控，呼吁谨慎发展
- 技术乐观派（Huang、Trump）：认为安全担忧缺乏科学依据，主张领先发展
- 中间派（Marcus）：区分真实危害与末日幻想，呼吁理性讨论
**实践启示：如何评估 AI 风险**
对于技术从业者和政策制定者而言，这一争议提供了重要启示：
- 避免二元对立：AI 安全问题不能简单化为”安全”vs”不安全”
- 需要具体风险模型：笼统的警告无助于政策制定
- 跨领域对话至关重要：技术、政策、伦理需协同应对
**结语：在恐惧与盲目中寻找平衡**
AI 可能在本十年末毁灭人类的警告，既不是无稽之谈，也不是末日预言。关键在于如何建立理性的风险评估框架，既不过度恐慌也不盲目乐观。正如 Marcus 所言，真正的 AI 安全讨论应该关注当前已造成的实际危害，而非幻想性的末日场景。
未来的 AI 发展需要在技术创新与安全治理之间找到平衡点，而这需要技术专家、政策制定者和公众的共同努力。
— END —
LC 智趣厅 · 科技与生活的交点
ihygg.cn
