AI假靳东越来越难防技术升级引发关注

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2025-03-10 07:41:13 新浪

AI假靳东越来越难防。演员靳东在3月5日的政协小组讨论上，针对AI换脸导致的诈骗问题发表了自己的看法。他提到一些观众因观看AI换脸视频而被骗，这种行为非常恶劣，并呼吁建立更好的规则来应对。

去年11月，在江西宜春，一位老人因相信AI换脸视频中的“靳东”而前往银行申请贷款200万元。尽管银行拒绝了她的请求，但这一事件揭示了AI换脸技术对中老年群体的影响。这类骗局不仅限于个案，许多网友分享了帮助家中长辈识别和摆脱AI换脸视频的经历。

近年来，类似的诈骗事件屡见不鲜。2020年秋天，江西都市频道报道了一名61岁女子因与“假靳东”网恋离家出走的新闻。这些视频通常使用靳东的影视片段，配上机械男声，虽然破绽明显，但仍有不少人受骗。随着AI技术的进步，如今的换脸和拟声技术更加逼真，使得辨别真假变得更加困难。

不仅是中老年人，年轻一代也难以完全避免被AI生成的信息误导。例如，一则关于“中国80后累计死亡率为5.20%”的谣言在网络上广泛传播，直到中国人民大学教授李婷公开辟谣。此外，股市也曾受到AI谣言的影响，如科大讯飞股价因一条虚假信息而大幅下跌。

全国人大代表雷军和政协委员甘华田均提出建议，加强AI换脸和拟声技术的治理。清华大学新闻与传播学院副教授陆洪磊指出，如果不对AI谣言进行有效管理，可能会对社会信心和稳定造成严重冲击。

AI生成的内容已经变得越来越难以辨别。传统谣言往往存在明显的逻辑漏洞，而AI可以制造出高度逼真的信息，使谣言更具破坏力。此外，低成本和高利润推动了一些机构利用AI生成大量内容以获取流量收益，这给警方的事实核查带来了巨大挑战。

尽管有《互联网信息服务深度合成管理规定》等法规出台，但在实际操作中，跨平台协作和技术发展速度的问题依然存在。目前，AI生成图像检测技术的发展落后于生成模型技术，中小型平台也难以承担高昂的技术投入成本。

对于文字信息的治理，平台主要通过识别同质化内容来进行处理，但这并不足以完全解决谣言问题。专家认为，需要进一步完善相关法律法规，确保AI内容创造符合人类伦理规范。未来，如何在技术快速发展的背景下建立有效的管理体系，仍是一个亟待解决的问题。

(责任编辑：卢其龙 CN070)

关闭

AI假靳东越来越难防 技术升级引发关注