是一位专注于创意产业、计算和互联网文化的新闻撰稿人。 Jess 在 TechRadar 开始了她的职业生涯，负责报道新闻和硬件评论。
Anthropic 已阐明其计划如何将隐形水印应用于 Claude 生成的文本，以遵守欧洲的人工智能透明度规则。周五，Anthropic 宣布 Claude 的文本标记系统是“SynthID-Text 方法的一个版本”——一种由 Google DeepMind 开发的开源水印技术，可使用措辞概率创建可检测的模式。
引入这种水印功能以及对 Claude 处理图像的 C2PA 支持是为了履行 Anthropic 在欧盟 AI 法案下的义务，该法案要求合成音频、图像、视频和文本包含机器可读标记，使内容能够被检测为人工生成或操纵。 Anthropic 表示，文本水印不会让 Claude 对用户来说更加昂贵，也不会“对 Claude 输出的质量或内容产生任何实际影响”。以下是 Anthropic 对其工作原理的解释：
就拿这句话来说：“今天的天气很冷……”。下一个词不太可能是“糖”。但它很可能是“阴”或“灰色”。在大多数情况下，模型最终选择后两个单词中的哪一个对于读者来说并不重要——无论哪种方式，句子的含义基本上是相同的。在这种情况下，选择是由随机数决定的。
水印使用诸如此类的低风险选择（在一段生成的文本上多次出现）在克劳德的响应中留下模式。该模式对于读者来说是无法检测到的，但是任何拥有对其进行编码的密钥的人都可以检测到。当使用水印时，选择仍然是随机的，但随机性的来源不同。水印不是使用任意随机数生成器来选择下一个单词，而是使用密钥和前面的几个单词来确定模型应该选择哪个单词。
正如 Anthropic 指出的那样，欧盟的人工智能透明度要求也会影响其他主要人工智能开发商，因此克劳德不会是唯一引入文本水印的模型。谷歌的 Gemini 聊天机器人自 2024 年以来一直支持 SynthID-Text 解决方案，虽然 OpenAI 尚未在其 AI 法案合规路线图中详细说明 ChatGPT 的任何文本水印计划，但它也将遵守法律的要求。
关注主题和作者 从这个故事中可以在您的个性化主页源中看到更多类似内容并接收电子邮件更新。
边缘日报
最重要新闻的免费每日摘要。
