一张静态照片借助人工智能技术,可以转化为看似真实的亲友对话场景。近期,一位名叫“滤镜粉碎机”的博主,仅用15秒的AI换脸视频,在三小时内便“说服”了一位团队成员的母亲转账两万元,此事迅速在网络上引发了广泛关注和讨论。随着AI技术的进步,人们越来越担忧不法分子利用这一技术,通过融合他人面孔和声音来制造高仿真度的虚假内容进行诈骗。这类担忧并非空穴来风,中央广播电视总台在2024年的3·15晚会上就揭露了利用“AI换脸”实施诈骗的行为。根据过往调查,约60%的受访者承认难以仅凭肉眼分辨出AI换脸视频的真伪。
在“滤镜粉碎机”的试验中,通过一个虚构的紧急情况——“儿子的女友怀孕需要医疗费”,成功让团队成员的母亲在儿子电话无法接通的情况下,几经犹豫最终转账。这个案例突显出,即便是理智的成年人,在情感驱使下也可能落入AI诈骗的陷阱。博主透露,团队选择相对温和的借口进行测试,却发现即便是这样,父母在看到孩子“真实”的影像后,也会因担忧而失去部分判断力。
对于如何识破AI换脸的诡计,博主建议通过连续提问私密问题的方式,因为即便AI技术再先进,也难以完全复制个人间独有的生活细节。此外,技术专家指出,观察面部轮廓和光线的异常也是辨别AI换脸的一个方法,尤其是在要求对方做出快速头部动作时。
法律界人士强调,利用AI技术进行诈骗或未经授权的肖像替换均触犯法律,不仅构成诈骗罪,也可能侵犯个人的肖像权和隐私权。因此,合理规范AI技术的使用,提升防御技术,以及增强公众的防骗意识显得尤为重要。博主“滤镜粉碎机”呼吁行业内外共同关注AI防御技术的发展,同时提醒公众应提高个人信息保护意识,对于易受骗群体则需加强宣传教育,共同努力遏制AI技术的不当使用。
近期,一则关于AI反诈的视频引起了广泛关注。视频中,一位母亲正与自称在外地求学的女儿视频聊天,女儿央求增加生活费。正当母亲心生怜悯,准备转账时,真正的女儿走进家门,揭穿了视频那端的“假女儿”
2024-08-30 20:06:01AI换脸技术存在被滥用风险近年来,随着人工智能技术的进步,一些不法分子开始利用AI技术融合他人面孔和声音,制造非常逼真的合成图像来实施新型网络诈骗,这类骗局常常会在短时间内给被害人造成较大损失。
2024-03-04 13:27:49AI换脸诈骗4月26日,向太发文称:我好像被向佐“电信诈骗”了!而我居然没认出来,还跟他视频聊天了,大家一定要小心现在AI换脸的科技,谨防被换脸亲友诈骗!
2024-04-26 10:57:29向太没认出来向佐AI换脸技术的快速发展,既带来了娱乐与创新的可能,也催生了新型的诈骗手段。近期,一位滤镜粉碎机博主通过一个简短的15秒AI换脸视频,令人惊讶地在三小时内说服其母亲交出了一年的积蓄
2024-09-07 16:26:03AI换脸三小时骗走女子一年工资