AI仿冒名人带货属违法行为深度伪造技术隐患显现

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2024-12-23 10:11:13 光明网

如今，从智能家居的语音助手到自动驾驶汽车，从高效能的数据分析到医疗领域的精准诊断，AI正以前所未有的方式改变着世界。然而，随着AI技术的不断发展和应用，其双刃剑的特性也逐渐显现。深度伪造技术就是其中之一，它利用人工智能算法生成高度逼真的虚假视频或图像，通过深度学习算法分析大量真实数据，学习特定人物或场景的特征，并生成与之极为相似的虚假内容。这种技术使得造假变得更加容易和难以辨别，给社会带来了诸多安全隐患。

今年以来，AI深度伪造假冒名人的事件时有发生。不久前，有人利用AI技术深度伪造了张文宏医生的脸部和声音进行直播带货。在这段视频中，被合成的人像反复介绍一种产品，声音也很像张文宏本人，商品中的蛋白棒产品已经售卖了1200多件。目前该账号已经搜索不到。张文宏医生对有人利用AI模仿自己带货的行为非常气愤，表示这种情况已经持续了几个星期，尤其是对于不熟悉AI技术的年长市民，他们很容易相信这些虚假信息。

用AI制作假冒名人欺骗网民的现象并非个例。今年国庆期间，有人用企业家雷军的声音和头像制作了众多恶搞视频。还有人利用刘德华的声音为自己增加流量。该视频出现后，刘德华电影公司连续发布两则声明，提醒各方人士注意，避免落入伪造刘德华声音的AI语音合成技术骗局。上海市消保委也注意到最近日益增加的AI假冒名人的视频，认为这种行为是对消费者合法权益的侵害，是一种赤裸裸的欺诈行为。

现在的AI技术在克隆他人面部和声音上已经非常成熟，提供一张照片就能做出换脸的效果，他人的声音也能被轻易模仿。专家介绍，通过人工智能技术可以将脸进行替换，声音需要有一个语言模型，将被模仿者的声音进行合成，实现音色的克隆。技术人员现场做了一个测试，将事先录制好的视频换成记者的脸和声音。记者提供了一张证件照片，不到两分钟，通过软件的渲染，视频的人脸就换成了记者的脸。随后是声音的AI制作，记者现场录制了一段声音输入到AI资料库中，很快AI就能用记者的声音播报任何文本内容。最终合成的视频效果非常逼真。

12 全文共 2 页下一页

关闭

AI仿冒名人带货属违法行为 深度伪造技术隐患显现

相关新闻

今日热点

频道热点

AI仿冒名人带货属违法行为深度伪造技术隐患显现