OpenAI在欧盟ChatGPT和Codex中添加文字盲水印 相关检测器仅向专业机构开放

OpenAI 日前宣布将在未来几周在欧盟地区为 ChatGPT 和 Codex 文本输出添加隐形水印，该机制将覆盖所有套餐以符合欧盟人工智能法案对 AI 生成内容来源标记的要求。欧盟人工智能法案要求所有 AI 聊天机器人为内容输出添加盲水印并提供检测机制，以便其他人可以通过检测器识别内容是否为 AI 生成。

根据 OpenAI 的说明，盲水印机制不会在全球范围内默认启用，而调用 API 的开发者可以为全球范围内部分受支持的模型主动开启盲水印，默认情况下 API 输出的内容也关闭盲水印。

OpenAI 使用的盲水印技术名为 textGrain，该技术不会在文本中插入特殊字符、空格或任何可见标记。相反，该技术会在模型生成内容时，微调词语及词片段的选择概率，在整段内容中形成统计信号，专门的检测器可以通过信号识别内容是否是 AI 生成。

测试显示在误报率为 1% 的情况下，对于心理学等词语选择空间较大的内容，检测器能识别约 80% 的 200-token 文本；文本长度增加到 400 tokens 时识别率约为 95%。而数学等词语受限的内容，识别率则明显更低。

改写内容也会削弱信号，在 400-token 文本测试中，将 10% 的词语替换为同义词后检测率会从 92% 降低到 66% 左右，而替换 25% 的内容后检测率会暴跌到 17%。因为改写会破坏 OpenAI 添加的词语盲水印，所以识别率降低也是正常的。

另外虽然盲水印机制很快就会上线，但 OpenAI 暂时不准备对公众开放检测器。OpenAI 计划向符合条件的研究机构和专业组织提供申请，只有申请通过的组织才可以使用文本检测器。后续 OpenAI 还计划将 textGrain 技术开源，供其他公司使用、外部研究机构分析和改进该技术等。

关注公众号：拾黑（shiheibook）了解更多

友情链接：

关注数据与安全，洞悉企业级服务市场：https://www.ijiandao.com/
安全、绿色软件下载就上极速下载站：https://www.yaorank.com/