媒体人谈DeepSeeK的致命伤说假话问题严重

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2025-02-12 04:20:26 网易

媒体人谈DeepSeeK的致命伤。近些日子，老詹突然迷上了DeepSeeK，几乎每天都在使用。他几乎每篇文章都借助这个工具来完成。然而，随着时间的推移，他发现DeepSeeK并不总是可靠，最大的问题在于它会说假话。

这个问题在老詹使用DeepSeeK写第二篇文章时就显现出来了。有位网友留言展示了一篇用DeepSeeK写的《史记·詹国枢列传》，文章中错误不少，有些甚至离谱到信口开河。例如，文中提到詹国枢是巴蜀泸州人，共和癸未年生，少孤贫，母亲陈氏以浆洗供束脩。但事实是，老詹并非泸州人，他的母亲也不是陈氏。尽管当时正“热恋”中，老詹没有深究。

后来，老詹再次发现DeepSeeK胡说八道。他让DeepSeeK根据杨乔的文章及人们对杨乔的描述撰写一篇短文《杨乔是这样的人……》。结果不到十秒，文章生成了，但错误连篇，比如将从未念过大学的杨乔说成毕业于中国人民大学。此外，文章还编造了一些生动的情节，如金婚纪念日的故事和改稿习惯，这些情节显然都是虚构的。

就在同一天，复旦大学同学群里有人请DeepSeeK写老班长朱大建。结果文章不仅张冠李戴，还无中生有地说朱大建的代表作是《平凡的世界》，虽然紧接着又说并非本人所著，逻辑上自相矛盾。

此后，老詹请DeepSeeK帮助写一篇关于某著名记者的文章，结果也是充满虚构内容。经过朋友核实后，发现文章中的许多事情该记者从未做过。这让老詹感到后怕，如果贸然发表，可能会闹出天大的笑话。

老詹冷静分析后认为，DeepSeeK之所以会说假话，并非出于本意，而是因为它缺乏辨别真假的能力。它只会把网上的信息照单全收，然后通过算法加工处理。这样一来，如果网上有关于某人的假新闻，DeepSeeK也会将其作为素材使用，从而导致生成的文章不真实。

老詹提醒开发团队，如果不解决这个问题，DeepSeeK的信誉和前途都将受到严重影响。他还尝试了其他中文模型，如字节的豆包、百度的文心一言等，发现它们也有类似的问题。因此，AI阵营需要联合起来共同研究解决方案。

尽管给DeepSeeK提了意见，老詹还是把它当作好朋友。他找到DeepSeeK，请它帮忙写一首打油诗《说假话，要不得》。五秒钟后，诗完成了：

张口胡编瞎嘚瑟谎多早晚要露馅圆完东来又圆西躲进厕所直哆嗦假话穿帮兜不住信任碎成渣滓沫骗来骗去心裹火真言半句千斤诺劝君莫学变色蛇舌底莲花别瞎作谎话是条漏风船沉进苦海难解说

(责任编辑：卢其龙 CN070)

关闭

媒体人谈DeepSeeK的致命伤 说假话问题严重

相关新闻

今日热点

频道热点

媒体人谈DeepSeeK的致命伤说假话问题严重