中华网 china.com

新闻

AI仿冒名人带货属违法行为 深度伪造技术隐患显现

关键词:
2024-12-23 10:11:13  光明网

如今,从智能家居的语音助手到自动驾驶汽车,从高效能的数据分析到医疗领域的精准诊断,AI正以前所未有的方式改变着世界。然而,随着AI技术的不断发展和应用,其双刃剑的特性也逐渐显现。深度伪造技术就是其中之一,它利用人工智能算法生成高度逼真的虚假视频或图像,通过深度学习算法分析大量真实数据,学习特定人物或场景的特征,并生成与之极为相似的虚假内容。这种技术使得造假变得更加容易和难以辨别,给社会带来了诸多安全隐患。

今年以来,AI深度伪造假冒名人的事件时有发生。不久前,有人利用AI技术深度伪造了张文宏医生的脸部和声音进行直播带货。在这段视频中,被合成的人像反复介绍一种产品,声音也很像张文宏本人,商品中的蛋白棒产品已经售卖了1200多件。目前该账号已经搜索不到。张文宏医生对有人利用AI模仿自己带货的行为非常气愤,表示这种情况已经持续了几个星期,尤其是对于不熟悉AI技术的年长市民,他们很容易相信这些虚假信息。

用AI制作假冒名人欺骗网民的现象并非个例。今年国庆期间,有人用企业家雷军的声音和头像制作了众多恶搞视频。还有人利用刘德华的声音为自己增加流量。该视频出现后,刘德华电影公司连续发布两则声明,提醒各方人士注意,避免落入伪造刘德华声音的AI语音合成技术骗局。上海市消保委也注意到最近日益增加的AI假冒名人的视频,认为这种行为是对消费者合法权益的侵害,是一种赤裸裸的欺诈行为。

现在的AI技术在克隆他人面部和声音上已经非常成熟,提供一张照片就能做出换脸的效果,他人的声音也能被轻易模仿。专家介绍,通过人工智能技术可以将脸进行替换,声音需要有一个语言模型,将被模仿者的声音进行合成,实现音色的克隆。技术人员现场做了一个测试,将事先录制好的视频换成记者的脸和声音。记者提供了一张证件照片,不到两分钟,通过软件的渲染,视频的人脸就换成了记者的脸。随后是声音的AI制作,记者现场录制了一段声音输入到AI资料库中,很快AI就能用记者的声音播报任何文本内容。最终合成的视频效果非常逼真。

关闭

山西煤矿溃仓7死2伤事故原因查明 违章操作致悲剧

山西煤矿溃仓7死2伤事故原因查明2024-12-23 10:09:30

狂热粉丝的创新发型,这个发型让梅西都沉默了!

这个发型让梅西都沉默了2024-12-23 10:08:51

特朗普任命火箭队老板为大使 NBA背景商人获提名

特朗普任命火箭队老板为大使2024-12-23 09:16:00

特朗普儿媳宣布不接任参议员 深思熟虑后决定

特朗普儿媳宣布不接任参议员2024-12-23 09:09:21

巴拿马总统回应特朗普言论

巴拿马总统回应特朗普言论2024-12-23 09:52:38

山西煤矿溃仓7死2伤事故原因查明 违章操作致悲剧

山西煤矿溃仓7死2伤事故原因查明2024-12-23 10:09:30

德国总统将于27日宣布是否解散联邦议院

德国总统将于27日宣布是否解散联邦议院2024-12-23 09:52:57

特朗普回应马斯克任总统 澄清传言并赞赏其才能

特朗普回应马斯克任总统2024-12-23 09:58:49

D社再曝宋旻浩服兵役造假 上班期间打游戏

D社再曝宋旻浩服兵役造假2024-12-23 10:07:12

农村养老院破旧不堪冬天窗户无玻璃 简陋环境引关注

农村养老院破旧不堪冬天窗户无玻璃2024-12-23 10:07:00

韩国代总统被查 首尔爆发大规模示威 政局动荡引发关注

韩国代总统被查首尔爆发大规模示威2024-12-23 09:57:02

特朗普还没上任 美一州长已提愿望

特朗普还没上任 美一州长已提愿望2024-12-23 09:48:54

外交部:中方决定对加拿大2家机构及20名机构人员采取反制措施

中方反制加拿大2家机构及20名人员2024-12-23 08:52:47

墨西哥总统不会屈从美国干涉 坚决捍卫国家主权

墨西哥总统不会屈从美国干涉2024-12-23 09:10:12

玉米终于“涨价”!“猛烈涨价”能实现吗?

玉米终于涨价,玉米猛烈涨价能实现吗2024-12-23 10:06:41

郑钦文退赛,替代她出战的也是个狠人 高馨妤逆境中展现顽强斗志

郑钦文退赛,替代她出战的也是个狠人2024-12-23 10:00:47

为什么殡葬本科专业火了 就业前景广受关注

为什么殡葬本科专业火了2024-12-23 10:01:25

普京回应喀山遭无人机袭击

普京回应喀山遭无人机袭击2024-12-23 09:53:58

欧美主要经济体金融市场将缩短交易时间 流动性减少加剧波动

欧美主要经济体金融市场将缩短交易时间2024-12-23 09:57:21

年夜饭、民宿预订火爆 春节团圆氛围浓烈

年夜饭,民宿预订火爆2024-12-23 10:01:52

狂热粉丝的创新发型,这个发型让梅西都沉默了!

这个发型让梅西都沉默了2024-12-23 10:08:51

美军窃取中国先进材料商业机密

美军窃取中国先进材料商业机密2024-12-23 09:51:00

血脂总降不下来怎么办?这4种食物要忌口!

血脂降不下来这4种食物要忌口2024-12-23 10:01:36

马斯克被曝闯入特朗普和贝索斯晚宴

马斯克被曝闯入特朗普晚宴2024-12-23 09:54:48

曼城输给阿斯顿维拉后付出代价:又有球员受伤 斯通斯再遭伤退

曼城输给阿斯顿维拉后付出代价2024-12-23 10:04:24

湖北一小区杀20头猪请业主连吃2天席 物业暖心举动引羡慕

湖北一小区杀20头猪请业主连吃2天席2024-12-23 10:02:11

今日油价调整最新消息!

今日油价调整最新消息2024-12-23 10:04:51

微软Edge浏览器悄然更改收藏夹图标,变为单线透明设计 用户反应不一

微软Edge浏览器悄然更改收藏夹图标,变为单线透明设计2024-12-23 10:03:18

特朗普还没上任 美一州长已提愿望 希望开发本地资源

特朗普还没上任美一州长已提愿望2024-12-23 09:56:45

美军卡尔文森航母打击群将进入南海

美军卡尔文森航母打击群将进入南海2024-12-23 09:50:28

相关新闻