AI最可怕的不是取代人类，是已经让我们不相信看到的是真照片真假难辨的时代来临

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2024-11-16 09:39:24 网易新闻

观察下面这张图片，你认为这是真实拍摄的还是AI生成的？看着有些可疑，比如汽车车门和堆叠的样子像是拼接起来的。那么下面这两张呢？如果不仔细查证，可能难以相信：它们全都是拍摄的真实照片。

十月底开始，西班牙瓦伦西亚地区经历特大暴雨，一天的降雨量相当于一年，还持续不断。瓦伦西亚地区的街道有很多斜坡，这么大的水量足以让汽车浮起来，并沿着斜坡一路往下。当洪水退去后，就出现了最初的照片中的景象。

面对这些照片时，许多人的反应是：这肯定是AI做的，假新闻。也不能说这些人不讲理，确实曾经被骗过。之前美国佛罗里达州被飓风袭击时，一张穿救生衣的小女孩在救生艇上抱着小狗流泪的图片横扫了社交网络。这张图比上面的暴雨图更显“AI味”，从手指细节到身体姿势都有种说不出的怪异。原帖主并不知道这张图来自何处，只是表达了对受灾人民的同情。现在平台已经补充了背景信息，强调这是一张生成的图片而非真实拍摄的照片。

虽然怀疑精神在某些情况下帮助平台迅速反应并补充警告，但在另一场灾难中却不再奏效。毕竟，AI生成的图像越来越真假难辨。一次次有人用AI图博眼球，最终变成了大型“狼来了”现场。

在评价AI生成的图片或视频时，是否足够写实一直是最重要的标准之一。这对模型提出了很多挑战：是否掌握自然语言规则？是否理解常识和现实世界的规律？能否理解上下文信息并呈现出来？这是对模型能力的考验，也是反映技术力的有效指标。

一开始，大家为AI能够生成逼真的图像而兴奋，但后来越来越多的“开局一张图，剩下全靠编”的新闻出现，而且越来越难以分辨。六月时，社交媒体上出现了西安发生特大爆炸的消息，时间地点俱全。但西安警方核实后发现并无此事。这条消息是由一家MCN机构发布的。主犯交代自己利用了AI工具，给定提示词后，工具会自动抓取相关文章并生成几百到上千字的文本。最高峰时一天能生成4000至7000条信息，几乎不需要人工参与，专门挑民生相关、热度高的话题和事件。研究表明，消极、负面、激发情绪的信息更容易抓住人的注意力。骗子的日均收入高达1万元，这让阅读、转发和评论这种假消息的用户感到气愤。

12 全文共 2 页下一页

关闭

AI最可怕的不是取代人类，是已经让我们不相信看到的是真照片 真假难辨的时代来临

相关新闻

今日热点

频道热点

AI最可怕的不是取代人类，是已经让我们不相信看到的是真照片真假难辨的时代来临