Anthropic近日详细阐述了其为Claude生成文本添加隐形水印的计划，以符合欧洲AI透明度法规。上周五，Anthropic宣布Claude的文本标记系统采用了「SynthID-Text方案的一个版本」——这是由Google DeepMind开发的开源水印技术，通过词汇概率在生成文本中嵌入可检测的模式。
该水印功能与Claude处理图片的C2PA支持一同推出，旨在履行Anthropic在欧盟《AI法案》下的义务。该法案要求合成的音频、图像、视频和文本必须包含机器可读标记，使内容能够被识别为AI生成或篡改。Anthropic强调，文本水印不会增加用户使用成本，也不会「对Claude输出的质量或内容产生任何实际影响」。
那么这项技术究竟是如何工作的？Anthropic给出了通俗易懂的解释。以句子「今天天气很冷，而且……」为例，下一个词几乎不可能是「甜的」，但很可能是「阴沉的」或「灰蒙蒙的」。在大多数情况下，模型最终选择这两个词中的哪一个对读者来说差别不大——句子的含义基本相同。在这种情况下，选择权通常由一个随机数字决定。
SynthID-Text最初由Google DeepMind开发并以开源方式发布，此次Anthropic采用其变体版本，也反映出科技行业在AI内容标识方面寻求通用标准的趋势。随着欧盟《AI法案》逐步落地，预计将有更多AI公司采用类似的文本水印技术，以满足监管要求。