三只羊“财色录音”是假的，但背后技术是真的恐怖 AI伪造声音引法律争议

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2024-09-29 20:14:01 东方财富网

直播带货公司“三只羊”近期遭遇风波，一段据称是其创始人卢文庆在醉酒状态下录制的音频在网上流传，内容关乎客服投诉、竞争者以及与三位女主播的关系，迅速成为热议焦点。9月26日，安徽合肥警方介入调查后宣布，该音频实为AI伪造，并已拘捕一名25岁男性嫌疑人，从其设备及使用的AI音频制作网站中找到了犯罪证据。次日，深圳言域科技有限公司承认，涉事音频采用其“Reecho睿声”技术基于卢文庆的直播片段生成，公司随即强化了安全控制措施。

此事引发了对AI声音克隆技术真实度的广泛讨论，尤其是该技术能够复制包括地方口音在内的复杂特征，令人难以分辨真假。深圳言域科技，一家成立不久的公司，凭借其能快速克隆人声的技术产品吸引了关注，其客户名单中不乏知名公司。其C端产品操作简便，用户仅需上传音频样本，AI即可学习并生成对应声音念出任意文本，甚至提供“瞬时克隆”和“专业克隆”选项，价格亲民。

然而，该技术的普及性和易获取性引起了对隐私权、版权及法律边界的担忧。有AI专家指出，虽然目前的声音克隆技术在短时间内生成的声音可能在长篇幅时显得不自然，但通过分段生成和后期编辑，仍能制作出高度仿真的音频。深圳言域的产品因允许用户自由上传音频文件进行克隆，而不局限于本人声音，被认为存在风险。市场上虽有其他公司如深声科技等也在研发类似技术，但多针对企业客户，且在使用权限上更为谨慎。

法律专家强调，未经许可使用他人声音可能构成民事侵权，随着AI技术的进步，深度伪造内容的制作与传播门槛降低，对互联网信息的真实性构成了挑战。当前，监管政策正在逐步完善，要求深度合成服务提供商承担起信息安全责任，包括事前预防、内容审核及事后应对措施。深圳言域科技虽已采取一定措施，如实施实名认证，但在声音克隆的范围约束及用户提醒方面仍有不足，且未发现其完成相关算法系统的备案。

此次事件凸显了AI声音克隆技术的双刃剑特性，既展现了技术的创新潜力，也暴露了伴随而来的法律与伦理挑战，促使社会各界思考如何在推动技术进步的同时，有效防范潜在风险。

(责任编辑：张小花 TT1000)

关闭

三只羊“财色录音”是假的，但背后技术是真的恐怖 AI伪造声音引法律争议

相关新闻

今日热点

频道热点