继演员温峥嵘刷到自己同时现身多个直播间带货后,近日,演员王丽云紧急辟谣自己录制生日祝福视频进行商业推广,再次引发人们对AI技术滥用的关注。事实上,类似案例并不鲜见,央视主持人李梓萌、奥运冠军全红婵、北京协和医院于康教授等公众人物形象、声音都曾被克隆盗用。
为什么AI仿冒公众人物直播带货如此猖獗?从技术层面看,AI生成应用的广泛普及,让深度伪造内容的成本大幅下降,只需几张照片、一段文案,就能生成仿真度极高的视频内容。从收益层面看,借助公众人物的信誉背书实现内容破圈,单场直播带货销售额便可能突破十万甚至百万,越来越多人在利益诱惑下铤而走险、趋之若鹜。从平台层面讲,部分平台技术监管能力尚显薄弱,对AI生成内容缺乏有效的内容溯源和真实性核验机制,对直播出现的违法违规或侵权内容缺乏实时、有效的识别干预手段,导致处罚往往滞后于危害结果的扩散,客观上为不法商家提供了可乘之机。从维权层面讲,被侵权者普遍面临“维权成本高、处置效果差”的困境,温峥嵘团队曾在一天内集中举报50个假冒账号,部分造假账号刚被下架就“换壳重生”,令人疲于奔命。
AI仿冒直播带货涉嫌虚假宣传和网络侵权,严重破坏网络生态。对公众人物来说,在毫不知情的情况下被冒用身份带货,不仅个人形象无端受损,更可能因带货产品质量问题无辜“躺枪”。比如,不法商家仿冒全红婵形象带货土特产,售出发霉、结块蜂蜜,使其陷入“人在家中坐、祸从天上来”的舆论困境。对网络消费者来说,基于名人背书购买直播产品,实际商品与宣传内容相差甚远,产品质量无法保障,可能面临退款困难或维权无门,遭受直接经济损失。比如,仿冒李梓萌形象推销普通鱼油糖果,宣称能够治疗头晕手麻,实则毫无医疗功效,商家却以使用不当为由拒绝退货。