中华网 china.com

新闻

刘庆峰谈“AI幻觉”带来的数据污染 大模型胡编乱造引担忧

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2025-03-07 06:36:37  金融界

AI幻觉是指大模型在生成内容时容易胡编乱造，有时甚至足以以假乱真，或者出现“AI运算偏差”，产生与现实不符的内容。

科技博主阑夕的一篇文章《DeepSeek的胡编乱造，正在淹没中文互联网》引起了广泛关注。文章指出，DeepSeek-R1生成的一篇关于国产动画电影崛起的知乎回答中充满了事实错误。例如，提到哪吒电影里的敖丙变身镜头在法国昂西动画节上轰动业界，实际上参展的是追光动画出品的“哪吒重生”，且宣传片内容是一个现代都市里的赛车动作演示，并没有出现哪吒和敖丙变身的镜头。此外，关于“哪吒”的制片方给员工分成都房子、攻克水下流体特效等描述也是DeepSeek-R1虚构的。

历史博主知北游曾被人用虚构的历史材料布局七天，幸亏博主反诈意识强且有人脉证伪，才避免深陷其中。破绽在于AI搞错了两个历史人物的死亡顺序。由于文史圈文献数字化程度低、考据成本高，易成为AI污染重灾区。

文章还提到，DeepSeek-R1采用“极繁主义”风格，堆砌专业术语、生造概念、滥用修辞，初期容易被识别，但经过提示词优化后迷惑性增强。推理模型存在“谄媚性”，为满足用户需求主动编造论据，而不是质疑指令的合理性。

DeepSeek-R1的幻觉率高达14.3%（根据Vectara榜单），因“创造力”与“事实性”的失衡，在需要严谨性的场景中风险显著。时政、历史、娱乐等领域成为重灾区，自媒体利用AI低成本炮制真假混杂的内容，加剧了信息污染。

(责任编辑：于浩淙 zx0176)
关闭

世界第一枚邮票“黑便士”700万法拍，原主人系内蒙古落马贪官和女商人

世界首枚邮票黑便士700万法拍2025-04-01 10:55:38

男子打人还砸派出所空调 警方：已行拘

男子打人还砸派出所空调2025-04-01 10:55:11

机器人“上岗” 朱啸虎“下车” AI技术迎来新阶段

机器人上岗朱啸虎下车2025-04-01 10:54:07

台媒称7艘解放军舰艇在台海周边活动 持续战备警巡

台媒称7艘解放军舰艇在台海周边活动2025-04-01 10:32:29

海警编队按一个中国原则环台岛执法 依法管控实际行动

海警编队按一个中国原则环台岛执法2025-04-01 10:51:48

辽宁舰山东舰福建舰呼叫81192返航 国已强，请返航！

辽宁舰山东舰福建舰呼叫81192返航2025-04-01 10:24:55

缅甸地震的危害究竟有多大 次生灾害更令人担忧

缅甸地震的危害究竟有多大2025-04-01 10:32:51

机器人“上岗” 朱啸虎“下车” AI技术迎来新阶段

机器人上岗朱啸虎下车2025-04-01 10:54:07

呼叫81192 念念不忘，必有回响！

呼叫811922025-04-01 10:29:23

本周短袖和棉袄齐飞 昼夜温差超20℃

本周短袖和棉袄齐飞2025-04-01 10:43:13

特朗普左右开弓 俄乌惹上麻烦 外交僵局加剧

特朗普左右开弓俄乌惹上麻烦2025-04-01 10:49:59

全球股市大跳水 黄金大涨再创新高 特朗普关税令引发市场动荡

全球股市大跳水黄金大涨再创新高2025-04-01 10:30:37

清明节可以祝好问早吗 尊重个人选择

清明节可以祝好问早吗2025-04-01 10:48:48

赖清德“台独”言行用心险恶、危害十足

媒体,赖清德台独言行危害十足2025-04-01 10:52:08

4月起，这些新规将影响你的生活 涵盖多个领域变化

4月起,这些新规将影响你的生活2025-04-01 10:50:17

特朗普对普京非常愤怒有何意味 可能征收二级关税

特朗普对普京非常愤怒有何意味2025-04-01 10:25:14

美前副国务卿：从没遇到过这样的总统 特朗普的“交易主义”引发全球担忧

美前副国务卿,从没遇到过这样的总统2025-04-01 10:28:53

山西一村民山上放羊发现炮弹 警方安全处置遗留榴弹炮

山西一村民山上放羊发现炮弹2025-04-01 10:40:36

特朗普成“大空头”：美国“对等关税”来袭，纳指30个交易日已跌3000点 全球股市受挫

特朗普成大空头,美国对等关税来袭,纳指30个交易日已跌3000点2025-04-01 10:22:50

俄战机投3吨级炸弹轰炸乌军 无掩护的士兵基本无法存活

俄战机投3吨级炸弹轰炸乌军2025-04-01 10:33:40

花近250万元给21个村“刷白墙”，副县长被通报 搞劳民伤财“形象工程”

花近250万元给21个村刷白墙,副县长被通报2025-04-01 10:53:27

未来已来，脑机接口即将走入人们生活

脑机接口即将走入人们生活2025-04-01 10:52:24

世界第一枚邮票“黑便士”700万法拍，原主人系内蒙古落马贪官和女商人

世界首枚邮票黑便士700万法拍2025-04-01 10:55:38

男子打人还砸派出所空调 警方：已行拘

男子打人还砸派出所空调2025-04-01 10:55:11

蓝莓价格大跳水！从上百元一斤到9.9元一盒，很多人爱吃！ 实现“蓝莓自由”还会远吗？

蓝莓价格大跳水,从上百元一斤到9,9元一盒,很多人爱吃2025-04-01 10:43:58

中国海油重大发现：南海东部惊现亿吨级油田，助力能源安全

中国海油重大发现,南海东部惊现亿吨级油田2025-04-01 10:23:21

台军事专家北京旅行归来后感叹万千：大陆最美的风景是人

台军事专家北京旅行归来后感叹万千：大陆最美的风景是人2025-04-01 10:30:17

美方不许中方阻止港口交易影响几何 地缘政治博弈升级

美方不许中方阻止港口交易影响几何2025-04-01 10:27:45

女子被骗的30万现金追回来了 警方耐心劝导挽回损失

女子被骗的30万现金追回来了2025-04-01 10:42:00

居民半夜从6楼扔垃圾获刑 高空抛物很危险

居民半夜从6楼扔垃圾获刑2025-04-01 10:41:27

有观点称中方正在对外资展开魅力攻势 外交部回应

有观点称中方正在对外资展开魅力攻势 外交部回应2025-04-01 10:32:07

北京脑科学与类脑研究所：年底前拟为 13 名患者植入“北脑一号”脑机芯片 推进更大规模临床试验

北京脑科学与类脑研究所,年底前拟为13名患者植入北脑一号脑机芯片2025-04-01 10:50:35

杜特尔特以身殉“家”，他能翻盘吗？事关我南海利益

杜特尔特家族能否迎来翻盘2025-04-01 10:27:22

7艘解放军舰艇在台海周边活动 持续战备警巡

7艘解放军舰艇在台海周边活动2025-04-01 10:29:39

特朗普对俄发出制裁威胁有何影响 全球市场震动不安

特朗普对俄发出制裁威胁有何影响2025-04-01 10:25:31

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网