“AI换脸”骗走2亿港元专家支招如何防范

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2024-04-22 15:11:05 新浪

AI已成为过去一年的网络热点，伴随其广泛应用，AI诈骗现象日益引起关注，尤其是运用AI换脸技术实施的诈骗案件屡见报端。近期，香港警方通报一起案例：某跨国公司香港分公司财务人员在一场内部视频会议中被骗走近2亿港元，除受害人本人外，其余“参会同事”均为AI换脸技术伪装。类似事件在2023年央视315晚会上亦有曝光。

Deepfake，即深度伪造技术，是AI换脸的核心手段。它基于深度学习算法，通过处理大量视频和图像数据，创造出高度逼真的面部动画和语音。该技术首次进入公众视野是在2017年，一名Reddit用户将一部成人电影主角的脸替换为《神奇女侠》演员盖尔·加朵，引发广泛关注。此后，Deepfake在中国也颇受欢迎，网络上充斥着AI换脸教程、素材库及辅助工具，如2019年B站UP主“换脸哥”将朱茵饰演的黄蓉换脸为杨幂，一度引发热议。

随着Deepfake技术的开源以及生成式AI如ChatGPT和Sora的普及，AI换脸门槛显著降低，制作难以辨识的换脸视频愈发容易。然而，技术滥用导致的AI诈骗事件频发，成功率高企，严重侵犯公众财产与隐私权益，相关话题多次冲上热搜榜。

面对“AI变脸”欺诈，识别真伪成为热议焦点。有专家提出让对方按压鼻子或脸部以观察变形情况，以此判断是否为真人。尽管此法有一定参考价值，但并非万无一失。蚂蚁集团天玑实验室安全算法专家朱凯指出，部分先进算法已能在局部遮挡下生成逼真画面，单纯按压鼻子或脸部可能无法识破。他建议结合左右摇头动作，因许多AI换脸基于平面照片，动态变化下易暴露破绽。此外，也有专家建议对方在视频通话中挥手，或提问只有对方知道的问题，以增加识别准确性。

面对深度伪造技术的挑战，业内正积极探索以AI对抗AI的解决方案。百度、阿里、腾讯、字节跳动、蚂蚁集团、科大讯飞等企业纷纷研发高级AI算法与工具，提升对深度伪造内容的识别能力。以蚂蚁数科为例，其旗下ZOLOZ品牌推出Deeper产品，专用于拦截刷脸过程中的AI换脸风险，已在身份安全领域实现Deepfake风险“0漏过”。ZOLOZ还设立百万奖金池，鼓励安全极客挖掘产品漏洞，共同提升安全防护水平。

对于普通用户而言，除掌握一些识别AI换脸诈骗的技巧外，更重要的是加强个人信息保护，特别是图像、声音等生物信息。今年8月起，《生成式人工智能服务管理暂行办法》正式实施，明确禁止侵犯他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。中国信通院人工智能研究中心安全与元宇宙部主任石霖建议：选择信誉良好、监管合规的大厂产品；减少在APP中上传个人照片，尤其是社交平台；必要时提供虚假联系方式以降低信息泄露风险；在涉及资金交易时，务必通过多种渠道核实对方身份，未经确认切勿转账。

(责任编辑：乔娇 TT0002)

关闭

“AI换脸”骗走2亿港元 专家支招如何防范

相关新闻

今日热点

频道热点

“AI换脸”骗走2亿港元专家支招如何防范