如何鉴别AI大语言模型生成文本？国际最新研发出添加水印工具
创始人
2024-10-24 22:44:34
0次
和商网北京10月24日电(记者 孙自法)国际著名学术期刊《自然》最新发表一篇人工智能(AI)研究论文称，研究人员开发出一种能为AI大语言模型(LLM)生成的文本添加水印的工具，或能提高对合成内容的鉴别和追溯能力。
该论文介绍，大语言模型是广泛使用的人工智能工具，能为聊天机器人、写作支持和其他目的生成文本。不过，人们很难识别并追溯AI生成文本的来源，使信息的可靠性成疑。水印被认为能解决这一问题，但生产系统对质量和计算效率的严格要求阻碍了其规模化应用。
在本项研究中，知名人工智能企业谷歌DeepMind团队开发出一个利用一种全新采样算法给AI生成文本添加水印的系统，称为SynthID-Text。该工具利用一个采样算法对LLM的词汇选择进行巧妙偏移，插入一个能被相关检测软件识别的签名。这既可以通过一种“扭曲”路径实现——该路径能提高水印质量但会轻微影响输出质量，或是通过一种能保留文本质量的“非扭曲”路径。
论文作者团队在多个公开模型上评估了这些水印的可检测性，发现SynthID-Text的可检测性优于当前其他方法。该团队还用Gemini LLM的近2000万次在线对话回答评估了这些文本的质量，结果显示，非扭曲水印形式不会降低文本质量。同时，SynthID-Text的使用对LLM运行所需算力的影响可忽略不计，这也减少了其应用上的障碍。
论文作者总结说，虽然编辑文本或改写输出就能避免出现文本水印，但他们的研究表明，一个为AI生成内容的生成式文本添加水印的工具是可行的，继而有望提升LLM使用的责任制和透明度。(完)
相关内容
热门资讯
巴西世界杯（今日推荐）谁有24...
微【ab120590】 【mj120590】【hf420624】等风也等你。喜欢打麻将的兄弟姐妹们、...
热门综艺一元一分跑得快麻将@2...
微【ab120590】 【mj120590】【hf420624】等风也等你。喜欢打麻将的兄弟姐妹们、...
强者当道正规一元一分红中麻将小...
薇新【ab120590】【mj120590】【hf420624】，最火热的跑得快，红中等等。自助上下...
今日推荐红中麻将群@24小时不...
一元一分麻将群加群主微【ab120590】【hf420624】 【mj120590】等风也等你。喜欢...
欲言又止正规一元一分红中麻将2...
薇新【ab120590】【mj120590】【hf420624】，最火热的跑得快，红中等等。自助上下...
《全网普及》红中癞子麻将群@2...
群主微信：【ab120590】 【mj120590】【hf420624】没有三缺一的无奈，手机上的麻...
独家解读正规广东红中麻将群微博...
微【ab120590】 【mj120590】【hf420624】广东一元一分红中麻将推倒胡等麻将群，...
休闲科普上下分一元一分红中麻将...
群主微【ab120590】 【mj120590】【hf420624】免带押进群，群内跑包包赔支持验证...
时下最流行千人老平台麻将群-红...
好运连连，全网推荐：(ab120590)(mj120590)【hf420624】-Q号：(QQ443...
强者当道跑得快微信群24小时@...
1.亮点：一元红中麻将微信“群”—ab120590—hf420624—mj120590—客服Q443...
幸福时刻24小时真人红中麻将群...
群主微【ab120590】【hf420624】 【mj120590】亲友团上下分模式，24小时全天不...
《百度科普》无押金红中麻将群@...
群主微信【ab120590】【hf420624】【mj120590】一元 两元 麻将群跑得快群都有，...
揭秘上下分正规红中麻将群小红书
群主微【ab120590】【hf420624】 【mj120590】亲友团上下分模式，24小时全天不...
《字节跳动》无押金红中麻将群@...
认证群主微信微【ab120590】 【mj120590】【hf420624】（一元俩元红中麻将）（跑...
重大通知百科一分一块麻将群-红...
群主微【ab120590】 【mj120590】【hf420624】免带押进群，群内跑包包赔支持验证...
哪里寻找红中麻将群@2024已...
微【ab120590】【hf420624】 【mj120590】红中麻将群、跑得快群。群内稳定五百人...
[周末必玩]正规红中癞子麻将@...
认证群主微信微【ab120590】 【mj120590】【hf420624】（一元俩元红中麻将）（跑...
【欢乐周末】一元一分正规红中麻...
1.亮点：一元红中麻将微信“群”—ab120590—hf420624—mj120590—客服Q443...
天涯明月红中麻将一元一分@20...
认准管理加v:微【ab120590】【mj120590】【hf420624】七年稳定老群！随时拿起手...