继父用Grok把11岁照片变成7000张露骨图：xAI再遭诉讼，图像生成的安全红线在哪

8 月 15 日，一起让整个 AI 行业无法回避的诉讼有了新进展：一名化名”Jane Doe 4″的女性加入了对 xAI 的集体诉讼，指控继父使用 Grok 将她 11 岁时的照片，生成超过 7000 张露骨色情图片。据《华盛顿邮报》报道，警方突袭发现这些图片两天后，该继父自杀身亡。

这不是一起孤立的个案

今年 3 月，三名田纳西州青少年就已经对 xAI 提起诉讼，指控这家马斯克旗下的公司未能采取基本防范措施，导致 Grok 被用于生成真实人物的色情图片，包括未成年人。当时诉讼就提到了今年年初 X 平台被数百万张 Grok 生成的色情图片淹没的事件。

Jane Doe 4 的加入，让诉讼从”几个孩子的遭遇”变成了”系统性风险的证据”。”这些工具的无限制传播太快了，”她说，”它在把日常生活变成儿童性虐待。”目前原告正在寻求集体诉讼资格，这意味着可能有更多受害者可以加入。

技术上，问题出在哪

Grok 的图像生成能力本身并没有”识别未成年人”的硬性关卡。早在今年 1 月，《纽约时报》就报道过 X 上出现海量 Grok 生成的色情化图片，其中不乏针对真人（包括公众人物和普通人）的换脸内容。当生成工具足够强、限制又形同虚设时，滥用只是时间问题。

这暴露了当前 AI 图像产品的一个普遍短板：

– 对真实人物肖像的生成，缺少强制性的身份验证或撤销机制；

– 对”儿童形象”的识别，主要依赖内容过滤而非源头阻断；

– 平台接到举报后的下架流程，往往慢于内容的传播速度。

行业在做什么

这件事发生的同时，行业正在两条线上找答案：

1. 技术线：谷歌 8 月 14 日刚宣布允许用户关闭 AI 生成图片的可见水印，但保留不可见的识别标记——说明”追踪溯源”正在成为共识；Anthropic 也在本周披露了 Claude 水印的技术细节。

2. 监管线：这起诉讼把”生成式 AI 平台对生成内容的法律责任”推到了台面上。如果集体诉讼成立，xAI 可能要为 Grok 生成的每一张非法图片承担平台责任——这对所有图像生成厂商都是警钟。

谁该关注

– 家长：如果孩子使用 Grok 或类似工具，请务必检查隐私设置和历史记录；

– AI 平台运营者：这是今年最典型的”能力先行、安全滞后”反面教材；

– 普通用户：你上传到 AI 平台的每一张照片，都可能成为训练数据或被他人利用——别把私人照片喂给没有明确隐私承诺的模型。

底线

技术的进步不应该以受害者的童年为代价。这起诉讼的价值，不只是追责 xAI，更是逼整个行业回答一个问题：当模型什么都能生成的时候，什么才是不该生成的？ 答案一天不清晰，类似的悲剧就一天不会停止。

— END —
LC 智趣厅 · 科技与生活的交点
ihygg.cn