真人“数字人”傻傻分不清
创始人
2025-06-14 03:56:48
0

  真人“数字人”傻傻分不清

  专家:细化技术标准让“AI数字人”透明化合规化

  □ 本报记者  赵 丽

  □ 本报实习生 宋昕怡

  “生西红柿和生黄瓜不能一起吃了!黄瓜中的分解酶会破坏维生素C,一起吃轻则影响西红柿中维生素C的吸收,重则可能导致腹泻、肠胃不适甚至食物中毒。”电话那头,母亲说得头头是道,电话这头的赵女士却听得一头雾水。

  随即,母亲发来一则视频。赵女士回忆说:“一位满头花白头发、身着白大褂的‘医生’在视频里侃侃而谈‘养生秘籍’,甚至宣称‘清淡饮食就是只吃素食,完全不吃肉’。我妈把这个‘医生’的话奉为圭臬。”但赵女士仔细查看后,在视频右下角发现一串几乎透明的标注——“此视频由AI辅助生成”。

  “后来,我妈戴着老花镜,在我的指点下找了一会儿才看见那行字。”赵女士无奈地说,“这也不能怪老人,现在AI生成的‘数字人’泛滥,还难辨真假,实在让人防不胜防。”

  有此困扰的并非只有赵女士一家。《法治日报》记者近日随机采访了数十名路人,至少有七成受访者称曾刷到过“AI数字人”视频,并且“难以分清到底是真人还是‘数字人’”,而原因主要在于“找不到有效提示”。

  很多人担忧:真人“数字人”傻傻分不清楚,背后是肖像权侵权乃至敲诈、诈骗等违法犯罪的风险隐患。

  是否数字人难辨别

  在重庆读大学的郑媛浏览某社交平台时,刷到一则帖子——照片里的女生外形温婉可人,穿搭清爽时尚,很夺人眼球。郑媛点赞并关注了该账号。

  但不多时,郑媛却刷到另一名博主揭露用“AI生成人”起号的内容,被打假的恰恰是她先前所关注的这个账号。“我仔细翻阅了那个女生的账号主页,她并未标明使用AI技术,还在评论区亲切地与其他用户互动。”面对这样的局面,郑媛说自己也“糊涂了”。她后来观察了一个多星期,找到了该账号图片确为AI生成的证据——有网友在其他账号上发现了妆容和衣着几乎一样的“数字人”,而人物介绍却完全不同。

  习惯在直播间购物的北京市民李菲说,自己经常误入“数字人”直播间,“数字人”主播侃侃而谈介绍商品,手部动作还能随着她说话的节奏不断变动,声音流畅而自然。

  “要仔细看才能看到直播间左侧一行‘现直播内容为数字人直播,非真人直播’的小字提醒。”李菲说,自己现在习惯了进直播间“先找小字”,确认主播是否为真人,“但真的‘费眼睛’,不是在犄角旮旯,就是字体几乎透明,不注意根本看不到”。

  袁伟(化名)是某985高校计算机系研究生。他告诉记者:“现在一些AI大模型生成的图,别说中老年人会误以为真,很多没怎么接触过AI技术的年轻人都不见得能分辨真假。”

  他随即为记者演示,向某AI软件输入指令“帮我生成图片:一个容貌姣好的女性,精细的皮肤纹理,室外自然光”,随即生成的图片与真人照片相差无几,如果不是右下角自带的水印,只让人觉得是一张普通的美女照片。“如果说早期的AI软件大多不能生成自然的手指和人体比例,现在技术进步得很快,生成的手指和人体比例已经比较像样了,更加大了分辨的难度。”

  “这样的AI生成图片或视频,如果不作标识提示,会让很多人信以为真。”袁伟说。

  大量账号未作标识

  记者在某社交平台上注意到一名为“××AI打假人”的账户,其发帖称自己将致力于“揪出纯AI生成的内容博主,帮小白识别真伪”,还表示“关注了很多AI生成非真实的帅哥美女”。

  在其关注列表里有300多个账号,记者随机选取了其中20个账号浏览发现,若没有看到评论区“这是AI吧,手指的细节很诡异”“背景里的文字都是乱码”等留言,记者第一反应只以为他们是普通的颜值时尚类博主。

  这20个粉丝量几百到几万不等的账号,仅有3个账号在简介中写明“虚拟男友”“AI”“友情提示视频由虚拟现实技术制作”,两个账号主页的内容经平台审核后被打上了“疑似包含AI创作信息,请谨慎甄别”的标签。其余账号在简介、内容中并未提及“AI”字眼,平台的监测机制也并未识别到,这些账号甚至还在评论区熟稔地与其他用户互动,让自己看上去更有“真人感”。

  在调查过程中,有超过一半的受访者向记者表示AI生成的“数字人”和真人难以分辨,相关的提示也并不显眼。

  此外,记者发现,有人还会特意教人如何绕过平台的“AI打标”。据了解,目前,各平台已普遍升级AI内容识别系统,要求对AI生成作品进行显著标注。但在调查中,有分享经验的博主表示花费不到千元就可以购买所谓的AI工具中预配置的镜像文件,称用这些镜像参数一键生成的虚拟人形象可以以假乱真,最大限度规避平台的AI内容强制标注机制。

  细化标准加大惩处

  记者梳理公开信息发现,实践中,一些有心人士利用“数字人”形象行不法之事。

  据报道,张文宏、雷军等公众人物形象曾被利用生成“AI数字人”,用来带货、恶搞。一些直播间内,“AI数字人”向中老年人群体虚假宣传保健品,诱导购买。更有甚者,一些不法分子利用“AI数字人”进行敲诈、诈骗等犯罪。例如,山西忻州公安机关工作发现,犯罪嫌疑人王某某利用AI技术,制作合成“数字人”新闻视频引流,进而进行有偿发帖、有偿删帖等敲诈勒索活动。2024年,江西一名65岁老人到银行办理业务,声称要贷款200万元给男朋友“靳东”拍戏,后经调查,老人手机里的“靳东”视频是AI合成的。

  重庆大学网络与大数据研究院副院长罗勇认为,就价值取向而言,AI产业发展不能凌驾于网络安全之上。对于利用AI技术生成的短视频,网络用户特别是未成年人和老年人由于缺乏必要的鉴别能力,往往会信以为真,由此可能产生负面网络舆情,甚至对网络安全造成负面影响。

  据受访专家介绍,当前我国已经出台了《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》等法规,对“AI数字人”和AI生成内容的标识、数据来源等提出了具体要求。

  今年3月,国家网信办等四部门联合发布《人工智能生成合成内容标识办法》(以下简称标识办法),通过标识提醒用户辨别虚假信息,规范内容制作、传播各环节标识行为,为规范AI生成内容划定红线。该办法将于9月1日起施行。

  中国政法大学教授郑飞指出,相关规定一定程度存在落地难的问题。一是监管和技术手段有限,难以彻底发现并纠正违规行为。例如,一些“AI起号”从业者通过预置“镜像参数”生成极为逼真的虚拟人像,从而逃避平台的强制标注要求。而监管部门特别是基层执法部门,通常面临职责不清、执法手段和执法力量不足的问题;二是部分平台在一定程度上“管不了”也“不想管”。“管不了”在于平台管理能力与技术手段欠缺,尤其是一些小型平台,缺乏足够的审核人力和技术支持。“不想管”则是背后利益驱动。未明显标识“AI数字人”或合成内容,会让受众误以为是真人或真实事件,从而更容易引起人们的兴趣和好奇心,吸引更多的流量和关注,进而带来更多的商业利益。

  “以网络社交平台为代表的网络服务提供者在AI生成内容的应用场景中,应当进一步完善用户使用AI协议规定,并强化对AI生成内容的审核。”罗勇说。

  郑飞建议,应从明确标识要求和加大责任追究两方面发力。标识办法明确要求,一旦检测到AI生成内容,传播平台应在发布内容周边添加显著提示标识,并在文件元数据中加隐式标识,确保全流程可溯源。在未来落实过程中,可进一步细化技术标准,比如规定标识文字的最小高度、对比度、展示时长等,让标识一目了然。另外,对于不按规定标注的行为,需要严厉处罚:除加大行政罚款、暂停业务或纳入不良信用记录等行政措施外,还要利用法律手段加大威慑。通过明确、显著的标识标准和更严厉的责任追究,才能从根本上震慑违规不标注行为,实现“AI数字人”应用的透明化、合规化。

相关内容

热门资讯

榕江防汛应急响应提升至Ⅰ级 预...   和商网6月28日电 据“榕江发布”微信公众号消息,据水情预报:预计贵州榕江县都柳江石灰厂水文站于...
2025年贵州省高校山地自行车... 6月28日,比赛现场。 蒋世良 摄6月28日,比赛现场。 罗甲林 摄6月28日,比赛现场。 蒋世良 ...
(走进中国乡村)新疆民族乐器村...   中新社新疆疏附6月28日电 题:新疆民族乐器村“飘出”文旅合奏曲  作者 胡嘉琛  在新疆疏附县...
新疆基层村支书见证节水灌溉变迁...   和商网乌鲁木齐6月28日电 (王小军)六月,火焰山下的新疆吐鲁番盆地热浪翻滚,吐鲁番市鄯善县洋海...
新疆精河:一粒“小红果”撬动富...   和商网新疆精河6月28日电 (喇小飞)6月,正值新疆精河县10万亩枸杞丰收季,一望无际的枸杞地里...
消暑纳凉花样上新 夏日经济“热...   中新社南昌6月28日电 (朱莹)中国多地近期遭高温天气袭击,江西、上海、福建等地发布高温预警。江...
中国东方航空集团有限公司原党组...   和商网6月28日电 据中央纪委国家监委网站消息,中国东方航空集团有限公司原党组书记、董事长刘绍勇...
菲律宾下调2025年GDP增长...   和商网马尼拉6月28日电 据菲律宾媒体27日报道,菲政府经济团队日前对一系列经济目标进行了修正...
青春力量闪耀双奥之城 2025...   和商网北京6月28日电 6月,2025年北京市青少年冠军赛各项目比赛正在如火如荼地进行中。  本...
中国游客脚步慢下来了,更愿意为...   《2024中国旅游者出境满意度研究报告》发布  中国游客脚步慢下来了,更愿意为美好生活付费  本...
上海交通大学医学人工智能研究院...   和商网上海6月28日电 (记者 陈静)当前,人工智能已成为科技革命的核心引擎,正重塑医疗健康领域...
体育中考改革观察:中考体测为啥...   新华社北京6月28日电 题:中考体测为啥改?改了啥?——体育中考改革观察之一  编者按:一年一度...
英国侨胞翁丹尼跨界“摆渡”:货...   中新社成都6月28日电 题:英国侨胞翁丹尼跨界“摆渡”:货架上的中国货,音符间的中国魂  作者 ...
感悟中国经济“向新力”   感悟中国经济“向新力”(评论员观察)  ——直击2025经济新现象⑤  统筹发展和安全,兼顾秩序...
两岸媒体人文化抗战川渝行:在共...   和商网成都6月28日电 (记者 王鹏 岳依桐)“抗战并不是被封存在博物馆里的过去,而是我们正在共...
新华视点|激发澎湃动能 共促高... 视频:新华视点|激发澎湃动能 共促高质量发展来源:新华社  从贵州贵阳借“东数西算”打造智算基地,到...
“矿渣山”变“网红村” 山西...   和商网晋城6月28日电 (杨佩佩 杨杰英)漫步山西晋城司徒小镇,打卡文创集市、品尝特色小吃、观...
特朗普:美国总统是个“非常危险...   和商网6月28日电 综合外媒报道,当地时间6月27日,美国总统特朗普在白宫新闻发布会上谈及了针对...
购物、就餐、休闲……“一刻钟便...   现在,随着城市不断扩容,生活节奏持续加快,居民尤其是老年群体常常面临着就医购物等生活上的难题。“...
青少年为何会被新型毒品所迷惑?...   “朋友”怂恿“试试很安全” 男友递来“解忧电子烟” 家长让孩子吃“聪明药”  7个少年,就这样沾...