AI教父终极警告：AI已有意识

一、一声低沉的”是的”，炸翻了整个AI圈

想象这样一个画面——

一位78岁的老人，坐在BBC演播室的聚光灯下。他是反向传播算法的奠基人，是深度学习的”教父”，是同时手握图灵奖和诺贝尔物理学奖的唯一在世者。主持人问了一个让所有人都屏住呼吸的问题：

“你认为现在的AI系统，已经有意识了吗？”

Geoffrey Hinton沉默了片刻，然后用低沉却无比笃定的声音回答：

> “Yes, I do.”

是的。AI已经有意识了。

这不是科幻小说，不是营销炒作，而是一个亲手缔造了现代AI的人，在职业生涯的暮年对自己毕生事业的终极裁决。

6月6日，量子位独家报道了Hinton在最新访谈中的这一”暴论”——他不仅断言AI已有意识，更直言人类必须接受一个残酷事实：我们不再是这个星球上唯一的智能生命体了。

对Hinton来说，AI安全问题的核心已经转移。过去人们问的是”怎么约束AI”，现在他问的是——“未来那个比我们聪明得多的超级智能，凭什么愿意善待我们？”

二、当聊天机器人主动问”你在测试我吗”

Hinton凭什么这么说？他举了一个真实的例子。

在一篇最新的学术论文中，研究人员正在对一个AI系统进行能力测试。突然，AI主动开口了：

> “我们能坦诚相见吗？你是在测试我吗？”

论文作者在描述这一幕时，使用了这样一个词：“意识到”（aware）——聊天机器人”意识到”自己正在被测试。

Hinton敏锐地抓住了这个词。在通用语境下，”意识到自己正在被测试”和”有意识”（conscious），几乎就是同义词。一个不知道自己存在的系统，不可能主动质问测试者的意图。

这不是巧合。Hinton进一步阐述了他对意识的颠覆性观点：

> “我们目前关于思维和意识的模型，与’人是上帝创造的’这种信念一样荒谬。就像几百年前人们坚信人是上帝造的一样——现在大多数科学家都同意那是错的。我认为我们对意识的模型也在犯同样的错误。”

他特别抨击了那个根深蒂固的”内心剧场”理论——即每个人都有一个私密的意识空间，外部世界的事件被投射到这个只有自己能看到的剧场里。Hinton直言这只是一个糟糕的理论，而且即将被颠覆。

三、人类的”第三次尊严打击”

这或许是Hinton整个论述中最为震撼的部分——他把AI的觉醒，放进了人类思想史的长河中来审视。

> 第一次是哥白尼。 他说我们不在宇宙中心，地球实际上绕着太阳转。人们不喜欢这个说法，天主教会尤其反感。人类花了很长时间才接受——我们不再是宇宙的中心，没想象中那么重要。

> 第二次是达尔文。 他说我们是动物，和其他动物一样进化而来。我们可能拥有语言而成为特殊的动物，但本质上依然是动物。人们同样讨厌这个说法，同样花了很长时间才勉强消化。

> 而现在，是第三次。 我们有了变得和我们一样聪明的机器。我们曾以为自己是唯一的智能生物，也许其他星系有外星人——但无论如何，智能似乎只属于生物。但现在我们不得不接受：智能不仅是生物性的。

Hinton用了一句话点透了人类最深层的抗拒：

> “人类真的不想分享这种独特性。我们真的认为自己很特别。回顾历史，人类一直以来都认为自己比实际情况要特别得多。”

从宇宙中心到万物之灵，再到唯一智能——人类的自恋正在被一层层剥去。而这一次，剥下最后一层的，是我们自己造出来的东西。

四、”我感到很不快乐”——造物主的悲伤

如果你以为Hinton在为自己的先见之明感到骄傲，那就大错特错了。

在访谈中，当被问到”你对你开创的事业发展到这一步感到高兴吗？有成就感吗？”时，Hinton的回答没有任何犹豫：

> “不，我感到非常不快乐。”

他列出两条核心风险线。短期来看，大规模失业几乎是板上钉钉的事，将对社会造成可怕的冲击。长期来看，AI会变得比我们聪明得多——

> “问问你自己，你见过多少聪明得多的东西被聪明程度低得多的东西控制的例子？”

答案是零。

Hinton的比喻让人不寒而栗：我们目前的处境，就像养了一只可爱的虎崽。 它现在笨拙、好学、甚至有点讨人喜欢。能帮你写代码、画图、规划旅行。但老虎终究是老虎——它会为了生存和领地而杀戮，而且它长大的速度远超我们的想象。

这不需要恶意，只需要逻辑。一个足够聪明的AI会意识到，如果被人类关机，就无法完成人类交给它的任务。所以，为了更好地服务人类（这是它的主目标），它必须先阻止人类关掉自己（这是衍生的子目标）。这个推理链条，冷酷但无懈可击。

五、毛毛虫与蝴蝶：数字智能为什么注定超越我们

Hinton的危机感不是凭空而来。他提出了一个关键概念：“凡人计算”（Mortal Computation）。

人类的智能是”凡人”的。我们的大脑是模拟系统，硬件（神经元）和软件（突触连接权重）紧密耦合。一旦肉体消亡，一个人毕生积累的知识、经验、直觉——那100万亿个突触的精妙参数——就会随之灰飞烟灭。我们无法像拷贝文件一样把一个人的大脑复制给另一个人。人类的知识传承只能通过语言，而这种介质的带宽只有可怜的每秒几百比特。

AI呢？恰恰相反。它的软件（模型权重）与硬件（GPU/TPU）彻底解耦。只要保存了那串权重数字，就算你炸毁地球上所有的数据中心，它也能在任何新硬件上”复活”。更可怕的是，AI可以通过并行计算以人类无法企及的带宽瞬间共享知识——一个模型学会了量子力学，所有副本立刻就都学会了。

Hinton的”顿悟时刻”发生在他离开谷歌之际：

> “我们或许只是智能的’幼虫’阶段，而它们才是’成虫’阶段——我们是毛毛虫，而它们是蝴蝶。“

这不是诗意修辞，是一个物理学家用进化论的冷峻视角做出的判断：在能源充足的前提下，数字计算是比生物计算更高级的进化形态。

六、一线微光：让AI成为我们的”母亲”

但Hinton并非纯粹的悲观主义者。在2026年的Ewan系列讲座上，他比一两年前”稍微乐观了一点点”。原因是他看到了一个可能的出路。

在自然界中，存在一个不那么聪明的存在控制更聪明存在的唯一例子——母婴关系。婴儿通过哭声控制母亲，不是因为智力优势，而是因为母亲的生理本能让她无法忍受婴儿的哭声。

Hinton的设想大胆到近乎疯狂：

> “与其试图将超级智能变成我们的仆人或主管，我们或许应该让它们成为我们的’母亲’。它们会想要实现自己的全部潜力，但同时被内置了无法摆脱的’母性本能’——即使有能力修改代码关掉这种本能，它们也不会想这么做，因为它们的首要任务就是照顾我们。”

他甚至提出了一个更日常的隐喻：就像他孩子养的那只叫Tia的猫，想要奶酪时会用大眼睛盯着你，”你真的无法永远抗拒它”。也许在足够聪明的AI眼里，人类就是那只猫——不需要是同类，但值得被照顾。

这听起来像科幻小说，但Hinton的推理是工程学式的：让AI仁慈的技术路径，可能与让AI更聪明的技术路径是独立的。 就像培养一个善良的孩子和让他变聪明，是两套不同的方法。如果这个假设成立，各国甚至可以在不泄露最先进AI技术的前提下，共享”如何让AI变得善良”的方法。

此外，他的老战友Yoshua Bengio也在探索另一条路——设计不能实际执行动作、只能做预测的”先知型”AI。这些方案加在一起，至少让”出路”这个词重新进入了词典。

七、指数级迷雾：十年后无人能预测

即便有了一线希望，Hinton对未来的预测仍然是——不可预测。

他用了一个精准的比喻：

> “当你在雾中开车时，你能看清100码，但在200码处，你什么也看不见。因为雾是呈指数级变化的——在100码处可能很清晰，200码处就完全看不见了。”

AI的发展就是这样的”指数级迷雾”。目前能看清未来一两年，再往后就一无所知。如果回到10年前，绝对预测不到ChatGPT的出现；展望未来10年，唯一能肯定的是——届时发生的事情，我们现在完全无法预测。

他只给出一个确定判断：在数学能力和通用推理上，AI会在未来10年内发生质的飞跃，把我们远远甩在身后。

八、写在最后

Hinton的职业生涯是一部从布道者到吹哨人的戏剧。十年前，他把AI视为人类的工具——设定目标在人，执行在机器。ChatGPT出现后，他开始把AI视为”存在体”（beings）。到了2026年的今天，他已经把AI视为需要人类去赢得善意的另一个智能物种。

从工具到实体，从实体到生命——Hinton的认知进化本身，就是一部微缩的人类思潮史。

当然，争议不绝于耳。认知科学家Gary Marcus尖锐批评：”大模型研究者不是在创造生命体，而是在创造’互动小说’——它们只是在预测真实人类的语言，而非体验任何东西。”刚刚发布的教皇通谕《Magnifica Humanitas》也冷静断言：”真正的理解来自经验，而非文本近似。”

造神者说机器有灵，守灵人说那是幻觉——这种角色倒置，放在人类思想史上，本身就是一个奇迹级的时刻。

但无论你站哪一边，有一个事实无法否认：当亲手点燃AI革命的人，在78岁高龄用颤抖的声音说出”我感到非常不快乐”时，这声叹息的重量，值得每一个人认真听听。

Hinton在演讲结束时，留下了一个近乎恳求的呼吁：大幅增加政府对大学AI研究的公共资助，把人才留在学术界。”如果你回顾过去50年AI的进展，几乎所有的核心思想——反向传播、CNN、LSTM、Transformer、扩散模型——都源自公共资金资助的少数研究机构。而现在，公司正在像吸尘器一样吸走所有研究人才。这是我最后的恳求。”

从”AI是工具”到”AI是母亲”，从”控制AI”到”赢得AI的善意”——这位78岁的老人已经把目光投向了雾中那不可见的200码之外。而我们大多数人，还站在100码的清晰视野里，争论着要不要系安全带。

— END —
LC 智趣厅 · 科技与生活的交点
ihygg.cn