对齐与评测
Sumanth Dathathri
苏曼特·达塔特里
SynthID Text · 生成内容水印
Sumanth Dathathri 是生成式 AI 研究者，与 Pushmeet Kohli 共同领导了 SynthID 文本水印项目。他的这项工作关注一个问题：能否在生成时留下可检测的统计信号，帮助识别文本是否来自相应模型？
SynthID Text 在模型选择 token 时调整概率，使输出保留特定的统计模式。检测时再检查这些模式，而不是单凭文章风格判断作者是不是 AI。它需要生成端参与，因此不能识别所有其他模型产生的文本。
这类水印也受文本长度、修改方式和内容多样性影响，不能作为任何情况下都准确的鉴定器。团队公开了相关方法与工具，使开发者能够研究如何在内容来源识别、生成质量和检测可靠性之间作出取舍。