4 名徒步者因 Google Gemini 食物建议陷入险境，AI 户外规划首次被搜救点名

9 月 4 日，美国某县警长办公室发布救援简报：一支 4 人徒步小队因听从 Google Gemini 的行程规划，携带的补给严重不足，被困山林后由搜救队救出。警方公开提醒公众”不要把 AI 当作唯一户外规划来源”——这是 AI 户外规划第一次被官方搜救机构正式点名。

警长办公室在声明里直接引用了 Gemini 给出的建议内容：”我们确认这支小队带的水和食物远低于其团队所需。Gemini 建议的补给量对这段路线来说完全不够。”

事件关键信息

– 4 人徒步小队，行程依靠 Gemini 规划

– Gemini 建议少带食物和水，小队按 AI 建议执行

– 搜救队出动，小队获救，无人重伤

– 警长办公室公开提醒：不要把 AI 当唯一规划来源

为什么这次是个分水岭

之前 AI 出错，多是”写错一段话””编一个不存在的引用”，后果是学术或职场层面的尴尬。这一次，错误直接落在”户外生存”——一个对错误零容忍的领域。

这和早期自动驾驶把”白色卡车”识别成”白云”导致的事故，是同一个量级：AI 在低容错场景里被赋予决策权，出错成本从”尴尬”升级到”生命”。

哪些场景要立刻警惕

按”出错成本 × AI 自信度”做一份自查清单：

| 场景 | 出错成本 | 建议 |

|——|———|——|

| 户外规划、医疗建议、法律判断 | 极高 | AI 仅作初稿，必须由专业人士复核 |

| 投资决策、跳槽评估 | 高 | AI 列维度，自己填答案 |

| 写邮件、列清单 | 中 | AI 出框架，自己润色 |

| 闲聊、查询常识 | 低 | 直接用 |

真实案例的复盘

这不是孤例。2026 年已经有 3 起被官方机构点名的”AI 低容错场景”事故：

– 医疗：2 月，某医院用 AI 辅助读片，把早期肿瘤误判为良性，错过最佳治疗窗口

– 法律：5 月，某律所实习生用 AI 生成法律意见书，引用的判例全部是编造的

– 教育：7 月，某 AI 辅导产品给出错误的物理公式推导，学生考试失分

共同点：用户对 AI 高度信任 + 场景对错误零容忍 + 缺乏第二意见

户外规划场景的特殊危险

相比医疗、法律，户外规划还有两个放大风险的因素：

– 网络盲区：用户在山里时，AI 助手无法实时纠错

– 生理极限：食物、水、保温的容错窗口以小时计，错配可能直接威胁生命

这也是为什么这次事件被搜救机构公开发声——他们见过太多”自信的错”。

你现在就可以做的 5 件事

1. 把”AI 建议”和”专业意见”分开——AI 给建议、专业人士签字

2. 强制要求”风险标注”——在 prompt 里加”如果涉及安全/健康/法律风险，请明确告诉我”

3. 建立”反 AI 自信”习惯——AI 越是答得流利，你越要怀疑

4. 公司团建/活动——必须有”AI 不参与”的纸质备案路线

5. 选择有”事实核验”功能的 AI 工具——Perplexity、Grok 4 这类带搜索能力的产品，比纯生成式模型更不容易出错

AI 不会主动告诉你”我不知道”——你要替它说。

— END —
LC 智趣厅 · 科技与生活的交点
ihygg.cn