中华网 china.com

新闻

AI换脸拟声风险怎么应对 治理挑战与对策

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2025-03-12 10:41:12  台海网

AI换脸拟声风险怎么应对 治理挑战与对策！“AI换脸拟声”乱象频现，引发社会广泛关注。一些不法分子利用这一技术实施诈骗，让演艺界人士、专家学者、知名企业家等公众人物深受其扰。

全国政协委员、中国煤矿文工团团长靳东在政协小组讨论上表示，AI换脸视频给喜欢他作品的观众带来了很大困扰，希望建立更好的规则来应对这种犯罪行为。同样，全国人大代表、小米集团创始人雷军也提到自己是“AI换脸拟声”的受害者。去年国庆长假期间，短视频平台上出现了大量“雷军AI配音”的恶搞视频，不少网友因此感到困惑。雷军指出，“AI换脸拟声”滥用导致侵犯肖像权、个人信息罪及诈骗等犯罪行为频发，甚至造成大规模形象和声誉损害。他建议加快单行法立法进程，强化行业自律共治，并加大普法宣传力度。

全国人大代表、TCL创始人李东生建议加快出台人工智能深度合成内容标识管理规章制度，明确惩罚制度，并加强国际合作，有效监管人工智能生成、合成内容。

随着AI技术的发展，“AI换脸拟声”操作变得愈发简单。只需获取照片和声音等个人信息，就能以假乱真。记者尝试使用某款AI换脸软件后发现，短短几分钟内便能生成一段具有较高相似度的换脸视频。类似地，声音合成功能也能快速生成模仿目标人物的声音。这些技术被不法分子利用，在网络上制造出各种违法乱象，从假冒名人诱导中老年人转账到伪装单位领导要求汇款，甚至有线上游戏平台利用AI技术制作带有赌博性质的代言宣传片。

福州大学计算机与大数据学院博士生肖博怀表示，GitHub等开源平台上存在大量AI换脸、语音合成的开源代码与工具，大大降低了技术使用门槛。尽管这些资源方便了合法创新探索，但也使得恶意利用技术变得轻而易举。此外，用户在网络注册时风险意识薄弱，随意填写真实姓名、身份证号等关键信息，进一步加剧了问题的严重性。

关闭

中国救援队救出缅甸女孩被不停感谢 星夜驰援展现中国担当

中国救援队救出缅甸女孩被不停感谢2025-04-01 09:16:39

知名音乐人王伟去世，年仅39岁 古琴界痛失英才

知名音乐人王伟去世,年仅39岁2025-04-01 09:16:25

国企5折收房，开发商不愿“割肉” 探索存量房收储新思路

国企5折收房,开发商不愿割肉2025-04-01 09:14:34

住宅新规来了：6大方面作出相应要求！

住宅新规来了2025-04-01 09:12:13

这是维护国家统一的正当必要行动 震慑“台独”分裂势力

这是维护国家统一的正当必要行动2025-04-01 09:08:02

伊朗就特朗普言论向联合国发起投诉：轻率、好战

伊朗就特朗普言论向联合国发起投诉2025-04-01 09:04:43

匈外长：俄乌冲突持续不符合欧非利益 呼吁停止阻挠和谈

匈外长,俄乌冲突持续不符合欧非利益2025-04-01 08:36:00

美防长为何在硫磺岛称赞日军勇敢 引发争议言论

美防长为何在硫磺岛称赞日军勇敢2025-04-01 08:35:46

缅甸地震中幸存的中国玉石商人 经历生死瞬间

缅甸地震中幸存的中国玉石商人2025-04-01 09:06:48

无激素男性避孕药或即将问世 二期临床试验进行中

无激素男性避孕药或即将问世2025-04-01 09:06:14

知名音乐人王伟去世，年仅39岁 古琴界痛失英才

知名音乐人王伟去世,年仅39岁2025-04-01 09:16:25

直击空军战机实弹地靶训练 精准打击锤炼实战技能

直击空军战机实弹地靶训练2025-04-01 09:15:29

业内：特斯拉V13安全接管或达天级 FSD重大更新揭晓

业内,特斯拉V13安全接管或达天级2025-03-31 20:35:46

学者：乌克兰可能失去最后支持 美乌关系生变

学者,乌克兰可能失去最后支持2025-04-01 08:53:53

透视30家上市券商：有高管团队去年降薪总额超6500万，行业分化明显

透视30家上市券商,有高管团队去年降薪总额超6500万2025-04-01 09:14:20

44岁外卖员跳水救人牺牲 英雄事迹感动全城

44岁外卖员跳水救人牺牲2025-04-01 09:05:09

夫妻车祸受伤路过钓友救人：大叔两处骨折不停呼喊询问“老婆怎么样”

夫妻车祸受伤路过钓友救人2025-04-01 09:09:29

罕见集结！美方证实多架B-2“幽灵”隐形轰炸机 部署迪戈加西亚基地

罕见集结,美方证实多架B-2幽灵隐形轰炸机2025-04-01 06:59:09

胡锡进：美国PUA日本，媒体操控真相

胡锡进,美国PUA日本2025-03-31 20:30:08

美国关税大棒压顶，韩国遭遇“股汇双杀”，汇率跌到16年新低 多重因素致韩元贬值

美国关税大棒压顶,韩国遭遇股汇双杀,汇率跌到16年新低2025-04-01 09:06:31

特朗普对俄乌和谈心态完全改变 斡旋难见成效

特朗普对俄乌和谈心态完全改变2025-04-01 08:39:25

美借"二级关税"威胁多国 经济战争新概念引发争议

美借"二级关税"威胁多国2025-04-01 09:06:12

北京本周每日最高气温维持在20℃左右，大风蓝色预警中 多风干燥请注意防范

北京本周每日最高气温维持在20℃左右,大风蓝色预警中2025-04-01 09:11:55

最新！大摩：应增持离岸中国股票

大摩：应增持离岸中国股票2025-04-01 09:11:38

国企5折收房，开发商不愿“割肉” 探索存量房收储新思路

国企5折收房,开发商不愿割肉2025-04-01 09:14:34

黄霄雲方回应翻唱争议 已获合法授权

黄霄雲方回应翻唱争议2025-04-01 09:09:59

中国救援队救出缅甸女孩被不停感谢 星夜驰援展现中国担当

中国救援队救出缅甸女孩被不停感谢2025-04-01 09:16:39

媒体人：特朗普连自己说的话都不认 中东局势再掀波澜

媒体人,特朗普连自己说的话都不认2025-04-01 07:44:16

日本称有特大地震风险或致30万死 经济损失或将超292万亿日元

日本称有特大地震风险或致30万死2025-04-01 08:35:27

乌士兵被炸伤后又遭一枪爆头 战争残酷无情

乌士兵被炸伤后又遭一枪爆头2025-04-01 07:43:11

美防长访菲“挑事” 想拿菲当枪使吗 解放军强硬回应

美防长访菲挑事想拿菲当枪使吗2025-04-01 09:13:11

现场：这火箭坠毁拍的好唯美 欧洲民营火箭首飞失利

这火箭坠毁拍的好唯美2025-03-31 20:36:17

顾客取消订单外卖小哥破防！

顾客取消订单外卖小哥破防2025-04-01 09:08:21

赛季报销！鹈鹕官宣：锡安和麦科勒姆各自因伤提前结束本赛季 球队无缘附加赛

赛季报销,鹈鹕官宣,锡安和麦科勒姆各自因伤提前结束本赛季2025-04-01 09:07:39

东部战区发布视频《降妖除魔》 展现联合作战实力

东部战区发布视频降妖除魔2025-04-01 08:54:34

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网