AI换脸拟声深度伪造的迷局何时能解亟待法律破题

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2025-03-23 08:31:38 央广网

换脸拟声合成视频的现象引发了广泛关注。全国人大代表雷军提到，网上出现了大量使用他的声音和人脸制作的内容，起初他觉得这是网民的娱乐行为，但当内容变得低劣且数量庞大时，情况变得难以控制。

除了雷军，AI技术也被用来伪造其他名人的形象进行虚假宣传，例如刘德华、张文宏医生和工程院院士张伯礼甚至被用于带货直播。中国政法大学副教授朱巍指出，根据民法典的规定，未经允许使用他人的人脸信息和声音信息进行深度合成是违法的，这些都属于个人的人格权利。

针对滥用AI技术伪造名人形象开展带货营销的问题，网信部门持续督促各网站平台进行巡查处置。近一个月内，重点网站平台累计处置了797个违法违规账号和店铺。

AI换脸和语音合成技术还被用于诈骗。内蒙古警方破获的一起案件中，福建某科技公司老板郭先生在视频通话中看到“好友”的面容，在10分钟内被骗转账430万元，事后发现对方竟是AI换脸与拟声技术合成的“数字替身”。在上海，刘先生因网络交友被骗取20万元，调查发现该团伙使用AI生成虚假照片实施婚恋诈骗，涉案金额超过200万元。

记者体验了一次AI“深度伪造”，技术人员通过记者的证件照片和录制的声音样本，不到两分钟就生成了一段记者的换脸和声音合成视频。购物平台上也有商家提供类似服务，价格从20元到50元不等。记者尝试后发现，只需提供一分钟的语音素材，就能定制出任何想要的声音。

针对AI深度合成作品，法律法规有明确规定。2023年施行的《互联网信息服务深度合成管理规定》要求，不得利用深度合成服务制作、复制、发布、传播法律禁止的信息。即将于9月1日实施的《人工智能生成合成内容标识办法》也提出，对AI生成合成内容要进行标识，防止误导性信息传播。

中国政法大学副教授朱巍表示，未经授权使用他人肖像和声音并对外发布是一种侵权行为，可能需要承担损害赔偿等法律责任。如果编辑后的视频内容违反网络安全法，当事人还可能面临刑事责任。中国计算机学会计算机安全专业委员会委员吕延辉建议，应从法律、平台和公众多个层面综合施策，进一步完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，同时加强执法力度。

(责任编辑：于浩淙 zx0176)

关闭

AI换脸拟声深度伪造的迷局何时能解 亟待法律破题

相关新闻

今日热点

频道热点

AI换脸拟声深度伪造的迷局何时能解亟待法律破题