OpenAI 给 ChatGPT 的文字”盖栋”了:欧盟强制,全球观望

· 科技资讯

OpenAI 给 ChatGPT 的文字”盖栋”了:欧盟强制,全球观望

OpenAI 宣布将在欧盟为 ChatGPT 和 Codex 生成的文字添加不可见水印。这不是一个技术公告,而是一次监管压力下的委协。欧盟 AI Act 的透明度条款 8 月 2 日生效,要求 AI 公司标记自己生成的内容。OpenAI 的做法很巧妙:水印不是肉眼可见的符号,而是通过微妙地影响模型选词,在文字中嵌入一个只有检测器能读出的模式。

textGrain:把水印藏在”选词”里

OpenAI 同时发布了技术报告,和宾夅姆夫尼亚大学、耶劲大学的研究者合作完成。核心思路是:模型生成每个词时,用密钥对候选词排序做微小偏移,把几百个这样的”选词偏差”叠加起来,检测器就能用密钥从纯文本中识别出 AI 生成的痕迹。水印跟着文字走——复制粘贴到哪里,它就到哪里。

这个设计很聪明,但也有明显短板。OpenAI 自己的测试显示,把 10% 的词替换成同义词,检测率就从 92% 掉到 66%。短文本、数学答案、翻译文本都更难检测。更关键的是,没有水印不代表是人类写的——文本可能太短、被大量编辑过、或者来自别家 AI。

水印检测率随编辑程度的变化 原始生成文本 92% 10% 词替换 66% 短文本 / 数学 / 翻译 → 检测更难 无水印 ≠ 人类写作

为什么只在欧盟?

OpenAI 明确表示不会把文字水印设为全球默认。开发者在全球范围内可以通过 API 对特定模型开启水印,但默认关闭。这个”欧盟特供”的安排,说白了是监管套利:欧盟有法律要求,美国没有,全球市场没有统一标准。OpenAI 在 2024 年就做好了文字水印,但因为担心用户会转向不加水印的竞争对手而一直没有上线——这个细节被华尔街日报挖了出来。

Anthropic 两个月前宣布给 Claude 的文字加全球水印,结果遭到部分用户反弹:”我提供了指令、上下文和决策,Claude 只是工具。”OpenAI 明显吸取了教训,先在监管最严的地方试点,观察反应。

水印能解决什么问题?

OpenAI 把检测器访问权限只开放给”经过批准的研究者和专业机构”,理由是评估可靠性和负责任使用。这个克制是合理的——如果检测器公开,会被大量用于”打假”,而检测率本身就有误差。但这也意味着普通用户无法验证自己看到的文章是否由 AI 生成。在虚假信息泛滥的时代,这个”只让专家看”的策略能走多远,存疑。

更大的问题是:水印只能证明”某段文字经过 OpenAI 系统处理”,不能证明人类参与了多少。一篇 90% 由 AI 生成、10% 由人类润色的文章,和一篇完全由 AI 生成的文章,在检测器眼里没有区别。当”人机协作”成为常态,水印的边界会越来越模糊。

核心观点:OpenAI 的欧盟水印是一次”合规最小化”操作——满足法律要求,但不改变产品体验。真正的战场不在技术层面(水印技术已经够用了),而在政策层面:当欧盟的标准成为事实标准,其他市场会不会跟进?如果全球主要市场都要求水印,AI 公司的”无水印”差异化策略将彻底失效。

— END —

LC 智趣厅 · 科技与生活的交点

ihygg.cn

Scroll to Top
微信公众号:LC智趣厅

扫码关注微信公众号
LC智趣厅