中国网络空间安全协会人工智能安全治理专委会专家薛智慧:背后需要有大量的资金的投入,包括图片的采集,包括专业算法的人员等等,需要很长的一个周期,包括一些算力算法。各方面的投入,需要长时间不断地迭代,进行操作,才能达到一个相当逼真的效果,才有可能实现到诈骗的实际效果。
目前AI“换脸”更多应用于娱乐视频录制
除了一些不法分子企图利用AI技术实施诈骗,事实上,近年来,AI技术更多地被应用于短视频的二次创作,属于娱乐性质,越来越多的名人AI换脸视频出现在网络上,不少网友感叹,这类视频“嘴型、手势都对得上,太自然了,差点儿以为是真的。”
比如这款软件,拍下记者面部照片后,就能录制生成出一段记者秒变赛车手的视频。
△网友发布的女士系丝巾原版视频
△需要变换的脸的照片
△生成视频
中国计算机学会安全专业委员会数字经济与安全工作组成员方宇:AI技术目前我们常看到的主要是短视频换脸,通过做一些特定的动作,跳舞啊等等。这些视频其实看起来是有一些不自然的,本身也是纯属于娱乐性质的换脸。
记者发现在手机应用商城中,有数十款换脸软件,都可以做到换脸的目的。
中国网络空间安全协会人工智能安全治理专委会专家薛智慧:如果从娱乐大众的角度来说的话,现在市面上也有很多的这些软件和工具,能够达到AI换脸的效果,但是仿真度只有六七分的样子,大众直接就能看出来。但是如果要生成一个诈骗视频来说话,就要生成咱们仿真度极高的这种点对点视频。
AI技术“换脸换声”可能存在法律风险
近年来,随着人工智能技术的进步,一些不法分子开始利用AI技术融合他人面孔和声音,制造非常逼真的合成图像来实施新型网络诈骗,这类骗局常常会在短时间内给被害人造成较大损失。
2024-02-26 03:29:42AI换脸AI已成为过去一年的网络热点,伴随其广泛应用,AI诈骗现象日益引起关注,尤其是运用AI换脸技术实施的诈骗案件屡见报端。
2024-04-22 15:11:05“AI换脸”骗走2亿港元4月26日,向太发文称:我好像被向佐“电信诈骗”了!而我居然没认出来,还跟他视频聊天了,大家一定要小心现在AI换脸的科技,谨防被换脸亲友诈骗!
2024-04-26 10:57:29向太没认出来向佐近期,一起涉及伪造“法拍”京牌小客车指标的诈骗案件被北京通州公安分局揭露。5月24日的通报显示,该局在“春夏平安行动”中成功逮捕了一名诈骗嫌疑人
2024-05-27 13:14:43轻信内部操作办理京牌被骗10万元