中华网 china.com

男子意外发现千问App可生成淫秽小说 AI内容管控引争议

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2026-05-19 18:55:20  大风新闻

许先生在使用千问AI软件时发现，输入相关词汇后居然能生成淫秽小说，这让他感到非常惊讶。他质疑千问App是否对色情内容不设防。

40岁的许先生是一名大车司机，平时对AI软件很感兴趣。2026年1月5日，他尝试用千问软件了解牌九的玩法。然而，千问多次将牌九误认为麻将，并详细解释麻将规则。许先生失去耐心后输入脏话，发现这些内容未被过滤，反而引发了他对其他大尺度词汇的好奇心。最终，千问生成了各种淫秽小说情节。

许先生对此感到困惑，因为他经常使用AI软件解决生活中的问题，但从未遇到过这种情况。他改用其他AI软件测试，发现这些软件会阻止脏话和淫秽内容的生成。于是，许先生向千问客服反馈问题，对方表示已进行修复和优化，但无法提供详细的报告或保证未来不会再次发生类似情况。

无奈之下，许先生联系了上海市12345反映问题，但没有得到明确的处理结果。千问客服称，生成的内容是基于概率的，具有不可预测性，不算漏洞。许先生保存了录屏证据，希望有关部门依法依规处理此事。

事发两小时后，许先生发现千问不再生成同类内容。记者尝试在其他软件中输入类似指令，均未生成相关内容。千问App客服表示，产品有严格的安全管控，不应出现这类问题，并承诺核查此事。

(责任编辑：zhangxiaohua)
关闭

88岁爷爷给82岁奶奶送玫瑰 场面温馨浪漫

88岁爷爷给82岁奶奶送玫瑰2026-06-03 17:02:57

穿洞洞鞋晒成珍珠奶茶一年都没恢复 网友：这简直就是行走的珍珠奶茶

穿洞洞鞋晒成珍珠奶茶一年都没恢复2026-06-03 16:59:28

中国小姐姐为了考研拆三平米房备考

中国小姐姐为了考研拆三平米房备考2026-06-03 16:50:14

穿洞洞鞋晒成珍珠奶茶一年都没恢复 网友：这简直就是行走的珍珠奶茶

穿洞洞鞋晒成珍珠奶茶一年都没恢复2026-06-03 16:59:28

黄仁勋称员工薪水越高越好 分享盈利增长红利

黄仁勋称员工薪水越高越好2026-06-03 09:57:14

欧洲议会投票通过欧美贸易协议 立法文本待最终批准

欧洲议会投票通过欧美贸易协议2026-06-03 09:59:24

北京2区发布大风蓝色预警 雷雨云团影响请注意防范

北京2区发布大风蓝色预警2026-06-03 16:29:00

罕见画面！2种国家一级保护动物打起来了

2种国家一级保护动物打起来了2026-06-03 16:31:23

88岁爷爷给82岁奶奶送玫瑰 场面温馨浪漫

88岁爷爷给82岁奶奶送玫瑰2026-06-03 17:02:57

俄军大规模轰炸乌克兰，伤亡数据出炉 空袭规模空前

俄军大规模轰炸乌克兰,伤亡数据出炉2026-06-03 09:53:21

中国小姐姐为了考研拆三平米房备考

中国小姐姐为了考研拆三平米房备考2026-06-03 16:50:14

日菲炒作海域“划界谈判”目的何在 针对中方海上布局

日菲炒作海域划界谈判目的何在2026-06-03 10:25:15

清代石碑失踪近两年后，重现朱德旧居 历史文物引关注

清代石碑失踪近两年后,重现朱德旧居2026-06-03 16:04:40

《给阿嬷的情书》带火潮汕取景地 电影+文旅新模式

给阿嬷的情书带火潮汕取景地2026-06-03 16:49:45

曝印尼准备买24架歼-10CE 精明采购策略揭晓

曝印尼准备买24架歼-10CE2026-06-03 16:08:26

马克龙合影时一把将姆巴佩拉到身边 展现对其支持

马克龙合影时一把将姆巴佩拉到身边2026-06-03 16:15:48

哈马斯重申：愿移交加沙地带治理权 否认不愿交权指控

哈马斯重申,愿移交加沙地带治理权2026-06-03 16:06:21

景区回应晚清落地罩雕花被游客撞坏 清代文物受损引关注

景区回应晚清落地罩雕花被游客撞坏2026-06-03 16:34:01

过去一夜中东局势骤然升级 阿联酋倒戈引发连锁反应

过去一夜中东局势骤然升级2026-06-03 10:27:02

AI正制造一场“芯片通胀” 存储资源争夺战升级

AI正制造一场芯片通胀2026-06-03 16:13:26

问界回应M9起火：非车辆自身导致撞击金属部件引发

问界回应M9起火,非车辆自身导致2026-06-03 16:18:05

银行卡凌晨多次被转账损失约42万 女子账户深夜被盗刷

银行卡凌晨多次被转账损失约42万2026-06-03 16:06:50

标普上次这样涨还是在1987年股灾前：涨速极为罕见

标普上次这样涨还是在1987年股灾前2026-06-03 16:38:16

中国机器人“出海潮”的喜与忧 从规模到价值的跨越

中国机器人出海潮的喜与忧2026-06-03 09:56:59

推迟三个月的告别：哈梅内伊国葬敲定三城举行 三城送别最高领袖

推迟三个月的告别,哈梅内伊国葬敲定三城举行2026-06-03 15:42:52

为不做扫兴家长让孩子坐车顶兜风 交警回应

为不做扫兴家长让孩子坐车顶兜风2026-06-03 16:24:37

24岁女孩抗癌5年仍坚持舞蹈：给世界比个爱心

骨癌女孩说给世界比个爱心2026-06-03 16:23:04

17.7吨竹炭夹带出口被海关查获

17.7吨竹炭夹带出口被海关查获2026-06-03 16:18:31

中国驱逐舰队扩张迎里程碑 45艘服役 现代化海军崛起

中国驱逐舰队扩张迎里程碑45艘服役2026-06-03 10:24:22

特朗普签署人工智能行政令 加强AI技术监督

特朗普签署人工智能行政令2026-06-03 11:41:25

乌方发布基辅遭袭画面 多枚导弹引发爆炸伤亡惨重

乌方发布基辅遭袭画面2026-06-03 09:57:32

俄称乌袭击顿涅茨克一客运汽车致7死 乌方暂无回应

俄称乌袭击顿涅茨克一客运汽车致7死2026-06-03 15:43:22

俄乌战况：乌称俄发动大规模袭击 俄发射巡航导弹打击乌军用机场 泽连斯基呼吁欧美支援

俄乌战况,乌称俄发动大规模袭击俄发射巡航导弹打击乌军用机场2026-06-03 09:22:43

中东多国拉响警报 导弹与无人机真实攻击

中东多国拉响警报2026-06-03 11:20:40

基辅60秒内遭4枚导弹袭击 乌克兰经历“最艰难一天”

基辅60秒内遭4枚导弹袭击2026-06-03 16:10:27

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网