随后是声音的AI制作。记者现场录制了一段声音输入到AI资料库中,很快AI就能用记者的声音播报任何的文本内容。
AI制作的换脸和声音的视频完成后,将两段视频合成后出来的效果非常逼真。
AI模仿度高但并非毫无破绽
专家表示,AI模仿度高但是并非毫无破绽。
首先,这种既要换脸又要换声的操作,只能制作视频,无法做到实时直播。
其次,观众通过仔细辨认视频,也能看出AI的痕迹。
专家提醒,辨别时可以重点关注视频中人脸的变换,包括人脸轮廓和背景环境融合度、协调度等。另外,在语音、语速和口型的匹配度上,也可以去重点关注。
未经授权利用AI假冒他人属违法行为
那么,是否可以利用AI深度伪造技术随意将名人形象为己所用呢?专家表示,那些未经过授权使用他人形象的行为,均属于违法行为。
中国政法大学副教授朱巍:我们现在看到的一些编辑的人脸,包括声音在内,实际上按照民法典的规定,这个都属于当事人权利人自己的人格权利,未经允许,任何人不得侵害。不仅不能直接用,也不能使用当事人的人脸信息、声音信息进行深度合成,不能放到深度合成的物料库里或场景库里。同时,他经过编辑的肖像和声音,用这种方式去展现一个相关内容,这属于伪造的信息。按照网络安全法的规定,这属于违法信息。
另外法律专家表示,AI假冒名人发表自己的作品,有可能会追究发布者的刑事责任。
中国政法大学副教授朱巍:未经权利人同意随便使用别人的肖像和声音并对外发布,按照民法典的规定是一种侵权责任,要承担包括损害赔偿、精神损害赔偿在内的相关责任。如果把相关视频,包括声音编辑之后,形成了相关内容。这个内容如果违反网络安全法的相关规定,当事人可能要承担包括刑事责任在内的法律责任。