3月3日,有微博网友发文向演员刘晓庆求证:“看到一个视频号发了很多刘晓庆的视频,好像是AI生成的,是假冒的吧?”
记者查询发现,视频号“晓庆人生”发布的视频有很多评论和点赞,其中最高的一条点赞量达到7.8万。
对此,刘晓庆发文回应:天哪,我点进去看了一下,画面是我,声音很像我,但不是我!这是怎么做到的?大家以后不会搞不清楚哪个才是真的我了吧?我在各个平台都叫刘晓庆!
网友提醒:现在AI已经很成熟了,要注意识别,不要上当受骗!
截至发稿,“晓庆人生”视频号已搜索不到。
AI深度合成名人音视频
雷军、刘德华等都是受害者!
去年国庆假期期间,短视频平台上出现了大量“雷军AI配音”的恶搞视频。视频中,“雷军”锐评了堵车、假期等热门话题,其中还有一些不雅谩骂。
有网友调侃:“国庆上网被雷军骂了整整7天。”
“雷军AI配音”的恶搞视频截图
针对网友“为何骂人”的询问,雷军回复了三个愤怒表情↓
此外,还曾有网友利用AI制作刘德华的声音,为自己博取流量。刘德华电影公司发布声明提醒网友,不要落入伪造刘德华声音的AI语音合成技术骗局。
未经授权
合成制作他人视频声音属侵权
中国计算机学会计算机安全专业委员会委员吕延辉表示,《中华人民共和国民法典》规定,自然人享有肖像、声音等权益,任何组织或个人利用信息技术伪造都是侵权行为。
2023年,国家网信办、工信部、公安部联合发布出台的《互联网信息服务深度合成管理规定》要求,任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。2024年网信办发布的《人工智能生成合成内容标识办法(征求意见稿)》也提出,对AI生成合成内容要进行标识,以便公众识别和区分,防止误导性信息传播。
北京京本律师事务所主任连大有律师表示,无论是普通人还是知名人士,未经其本人同意,擅自使用其肖像和声音进行编辑合成,甚至发布具有辱骂和诽谤性质的内容,明显侵犯了其相关民事权利,如肖像权、名誉权等。