中华网 china.com

新闻

视频画面身临其境可能也是AI伪造：警惕深度伪造技术滥用

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2025-05-22 19:45:53  网易

徐大爷是天坛公园健身圈的一名“网红”，却因AI技术遭遇了一场无妄之灾。他的视频被不法分子盗用，并通过AI换脸技术将他变成了一个癌症患者，还附带了虚假广告。

随着人工智能技术的快速发展，诸如“AI换脸”和“AI合成照片、视频”等现象在网络中越来越常见。最近，“视频画面身临其境可能也是AI伪造”的话题登上微博热搜，引发了广泛讨论。尽管AI合成视频在技术上取得了巨大突破，但一些不法分子却将其用于制造谣言和网络诈骗。

要辨别AI合成视频的真伪，可以关注一些细节。例如，生成的视频中眨眼或闭眼的动作较少，或者两只眼睛的瞳孔颜色不一致，牙齿边缘过于整齐，这些都可能是AI合成的迹象。此外，观察人物面部表情是否自然、眨眼频率是否异常以及音频和视频是否同步也是常见的方法。

针对AI合成视频带来的乱象，相关部门已经采取行动。今年2月，中央网信办发布了2025年“清朗”系列专项行动整治重点，特别提出整治AI技术滥用问题，打击利用AI生成虚假信息的行为。国家网信办等部门也发布了《人工智能生成合成内容标识办法》，要求自9月1日起，所有AI生成合成内容必须添加标识。

互联网平台也在积极响应。抖音开展了专项行动治理“AI起号”现象，清理了311条违规内容，并封禁了15个严重违规账号。小红书则发布了关于整治AI技术滥用的公告，重点打击利用AI批量生产虚假内容涨粉、售卖AI起号课程等行为。

治理AI造谣需要多方面的努力。除了加强法律法规的制定和执行外，还需要提高普通用户的媒介素养与辨别能力。用户应保持怀疑态度，谨慎对待未经核实的信息，避免盲目转发。

(责任编辑：zx0001)
关闭

恒星演化新视角：探索大质量恒星的秘密 揭示强烈恒星风

恒星演化新视角,探索大质量恒星的秘密2025-07-04 16:42:04

孙颖莎抵美后首训外出迷路 导航失灵成常态

孙颖莎抵美后首训外出迷路2025-07-04 16:39:53

上汽大众6月终端销售9.6万辆 逆势增长样本

上汽大众6月终端销售9,6万辆2025-07-04 16:37:41

扁担女孩拍摄者：看到上一辈人的朴素 勾起几代人情结

扁担女孩拍摄者,看到上一辈人的朴素2025-07-04 16:17:59

美媒称中国将有6艘航母？中国发展自有规划，不需要外方说三道四 稳步推进航母建设

美媒称中国将有6艘航母,中国发展自有规划,不需要外方说三道四2025-07-04 16:31:13

网红校长张弛领证结婚了！其代表作有《带你去旅行》等

张弛结婚2025-07-04 16:09:49

俄军指挥部被导弹一锅端说明什么 俄军安全形势堪忧

俄军指挥部被导弹一锅端说明什么2025-07-04 15:58:42

哈萨克斯坦向我国赠赛加羚羊 助力物种恢复

哈萨克斯坦向我国赠赛加羚羊2025-07-04 16:38:08

由训转战！多架歼-20霸气逼退外机 捍卫主权寸土不让

由训转战,多架歼-20霸气逼退外机2025-07-04 16:03:58

美政府据报致函美企解除对华出口限制，“已有8艘船只驶往中国” 恢复乙烷出口信号

美政府据报致函美企解除对华出口限制,已有8艘船只驶往中国2025-07-04 16:43:17

香港市民看到歼-15瞬间听取哇声一片 航母开楼下了

香港市民看到歼-15瞬间听取哇声一片2025-07-04 16:02:04

莫迪开启十年来“最长访问”，印度国会议员批：是“环球观光总理” 加强全球南方合作

莫迪开启十年来最长访问,印度国会议员批,是环球观光总理2025-07-04 15:56:53

荔枝冻了吃真的好爽！荔枝该怎么保存

冻荔枝2025-07-04 16:13:38

丈夫赌气喝下敌敌畏 妻子大哭拦车 夫妻争吵酿悲剧

丈夫赌气喝下敌敌畏妻子大哭拦车2025-07-04 16:20:10

七旬老人手脚变大原是脑肿瘤作祟 医生提醒：看似平常的身体变化，可能是疾病发出的“求救信号”

七旬老人手脚变大原是脑肿瘤作祟2025-07-04 16:33:16

恒星演化新视角：探索大质量恒星的秘密 揭示强烈恒星风

恒星演化新视角,探索大质量恒星的秘密2025-07-04 16:42:04

乌称俄发射超500架无人机目标基辅 基辅遭大规模空袭

乌称俄发射超500架无人机目标基辅2025-07-04 16:15:42

特朗普再喊话美联储主席立刻辞职 要求进一步降息

特朗普再喊话美联储主席立刻辞职2025-07-04 15:55:34

孙颖莎抵美后首训外出迷路 导航失灵成常态

孙颖莎抵美后首训外出迷路2025-07-04 16:39:53

专家：8个字印证歼-15T释放性能上限 电磁弹射改写规则

专家,8个字印证歼-15T释放性能上限2025-07-04 16:01:35

印度若购买大量美式装备将有何影响？

印度若购买大量美式装备将有何影响2025-07-04 16:40:27

威武霸气！轰-6挂载大型导弹亮相黄岩岛 实战化反制新阶段

威武霸气,轰-6挂载大型导弹亮相黄岩岛2025-07-04 15:57:25

中方将继续奉行面向全体阿富汗人民的友好外交政策 支持阿重建与发展

中方将继续奉行面向全体阿富汗人民的友好外交政策2025-07-04 16:22:46

管道破裂马路塌陷 公交车陷入坑中 无人员受伤

管道破裂马路塌陷公交车陷入坑中2025-07-04 16:18:29

乌为何对俄军高层展开密集“斩首” 情报与技术的胜利

乌为何对俄军高层展开密集斩首2025-07-04 16:17:10

上汽大众6月终端销售9.6万辆 逆势增长样本

上汽大众6月终端销售9,6万辆2025-07-04 16:37:41

如何解读美方放松芯片出口限制 政策与产业链深度解析

如何解读美方放松芯片出口限制2025-07-04 16:22:45

外媒爆：美国政府致函美企撤销一项限制性许可要求，为恢复对华乙烷出口扫清道路 贸易休战信号显现

外媒爆,美国政府致函美企撤销一项限制性许可要求,为恢复对华乙烷出口扫清道路2025-07-04 16:25:09

美“华盛顿”号抵达菲律宾访问 时隔多年再访菲

美华盛顿号抵达菲律宾访问2025-07-04 16:35:39

拜登：欧洲领导人向我求助 分享北约见解

拜登,欧洲领导人向我求助2025-07-04 16:28:39

为投资买顶楼漏水八年没修好 业主：买家看一眼都走了

为投资买顶楼漏水八年没修好2025-07-04 16:11:38

美媒披露大而美法案通过幕后细节 特朗普昼夜不停推动法案

美媒披露大而美法案通过幕后细节2025-07-04 16:42:50

俄海军副司令阵亡后基辅遭大规模袭击 局势升级引发国际关注

俄海军副司令阵亡后基辅遭大规模袭击2025-07-04 15:36:44

夫妻吵架丈夫赌气喝下敌敌畏 路人援手救危急

夫妻吵架丈夫赌气喝下敌敌畏2025-07-04 16:09:23

航拍球迷在安菲尔德送别若塔，献花 围巾吊唁并驻足默哀 悼念持续不断

航拍球迷在安菲尔德送别若塔,献花围巾吊唁并驻足默哀2025-07-04 16:24:36

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网