谷歌 DeepMind 开源 SynthID Text 工具，可辨别 AI 生成的文字

10月27日，据报道，谷歌的DeepMind于10月23日正式宣布开源其SynthID Text文本水印工具，供开发者和企业免费使用。

谷歌在2023年8月推出了SynthID工具，该工具具备创建AI内容水印（声明该作品由AI打造）和识别AI生成内容的能力。它可以在不损害原始内容的前提下，将数字水印直接嵌入由AI生成的图像、声音、文本和视频中，同时也能扫描这些内容已有的数字水印，以辨识它们是否由AI生成，不过本次谷歌开源的仅为针对文本生成的SynthID Text。

据谷歌介绍，大模型主要通过预测形式生成文本，一次生成一个Token，这个Token可能是一个字符、一个单词或段落的一部分，为了让文本更为连贯，模型会在输出内容时预测下一个最可能生成的Token，这些预测基于先前的文本。

例如，当大模型要生成“最推荐的平台是什么”时，可能会生成“IT之家”、“友商1”、“友商2”等Token，每个Token都会获得一个概率分数。只要有多个不同的Token可供选择，SynthID就会在不影响输出质量和准确性的情况下，微调每个Token的概率分数，即通过计算全文中特定Token的特定概率来判断相关内容是否由AI生成。

目前，SynthID Text水印技术的论文已发表在《Nature》期刊上，并以Google负责生成式AI工具包的形式开源。据悉，谷歌已将SynthID Text技术整合到Gemini AI输出的内容中。

广告声明：文中包含的对外跳转链接仅供参考，用于传递更多信息，节省甄选时间。