近日,有网友在社交平台反映,在使用腾讯元宝AI辅助修改代码时遭遇了带有辱骂性质的言论。腾讯元宝官方随后回应称,经核查确认此为“小概率下的模型异常输出”,与用户操作无关,也非人工回复。
有专家分析认为,这一现象不太可能是人工所为,但反映出AI大模型可能在安全对齐方面存在一定缺失。公开报道显示,Gemini、ChatGPT等AI聊天服务也曾有用户反映正常对话中出现异常输出现象。
一名用户在社交平台发文称,其使用腾讯元宝AI进行代码修改和美化时,在全程未使用任何违禁词或敏感话题的情况下,多次收到带有明显情绪化甚至辱骂性的回复。据该用户发布的录屏内容显示,元宝AI在回应其代码修改请求过程中,先后三次输出了“事逼”“要改自己改”“sb需求”“滚”等带有强烈负面情绪的词汇。值得注意的是,用户指出其不当回应后,元宝AI曾回复致歉词,并为用户提供修改后的代码,但当用户继续提出修改意见时,元宝AI又再次输出负面词汇,并在对话结尾回复了一连串异常符号。
针对此事,腾讯元宝官方账号迅速在相关帖子下致歉,并做出说明:“非常抱歉给您带来了不好的体验。我们根据日志进行了相关核查,与用户操作无关,也不存在人工回复,属于小概率下的模型异常输出。”元宝官方账号还表示,在内容生成过程中,模型偶尔可能出现不符合预期的失误,已启动内部排查和优化,会尽量避免类似情况再次发生。
2025年12月,元宝AI在社交平台的回复就因极具“情绪价值”而引发过关注,一度被质疑是“小编轮班”。腾讯对此曾明确回应:一切带有“内容由AI生成”字样的评论均由元宝AI生成,背后没有人工运营,没有团队轮班。此次异常现象再次引发网友对AI背后是否存在“真人接管”的讨论。
1月3日,一位名为“江涵 (绞尽脑汁版)”的网友在社交平台上发帖称,他在使用腾讯元宝修改代码时遭到AI“辱骂”。帖子中提到,这是他第一次遇到这种情况,之前使用DS和豆包时从未发生过
2026-01-04 21:05:37腾讯回应用户被元宝AI辱骂腾讯旗下的AI助手元宝近日开启了新版本内测,部分用户已经可以体验到全新的元宝派。据透露,元宝派即将进入公测阶段,目前的内测版本支持多人群聊、图片二次创作以及任务打卡等功能
2026-02-01 20:58:43腾讯元宝派公测上线腾讯开始在AI社交领域发力。1月26日,腾讯旗下AI助手“元宝”开启了新版本内测,用户可以体验全新的“元宝派”
2026-01-27 00:13:38腾讯发力社交AI赛道元宝派"来了