OpenAI 将文本水印引入 API——与 Anthropic 不同，它默认关闭
这件事讲了什么
OpenAI 推出了一套叫 textGrain 的文本水印技术，用来给 AI 生成的文字打上不易察觉的标记。原理是让模型在几个同样合适的词里偏向选某一个，长时间积累后形成一种可被检测器识别的模式。以前给文本加水印比较难，改几个词就可能让标记失效，OpenAI 说在新方法下，200 个 token 的段落能检测出约 80%，400 个 token 能到 95%。API 客户从今天起可以自己选择是否开启，默认是关的；未来几周 OpenAI 会在欧盟自动给 ChatGPT 和 Codex 的部分输出加水印，以配合欧盟 AI 法案的透明度要求。
可以使用的工具
文中可用工具
- textGrainOpenAI 开发的文本水印技术，通过在近义词间做细微偏好选择来嵌入统计信号
- SynthIDGoogle 开发的水印技术，OpenAI 已用于图片和音频，并与 textGrain 做过检测性能对比
- Content Credentials基于 C2PA 开放标准的内容来源记录技术，OpenAI 从 2024 年起用于生成图片
- Content Provenance APIOpenAI 提供的接口，用于检查受支持的图片和音频中的来源信号
- TextSealMeta 开发的文本水印方法，原文仅提及名称，未说明具体用途
讨论 0
登录后参与讨论，阅读资讯无需注册。
还没有评论，来分享第一个看法。