元宝骂人 AI生成侮辱性图片引发争议

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2026-02-25 17:28:18 东方资讯

除夕夜，本应是阖家团圆的温馨时刻，西安市民向先生却遭遇了一场由AI带来的“数字冒犯”。他希望通过AI生成一张结合自身职业特性的拜年图片发朋友圈。然而，在多次修改后，AI生成的图片中竟然出现了“你妈个X”四个字。向先生是一名律师，他在元宝App上传了自己的形象照片，希望AI可以结合他的职业特点设计一张适合的朋友圈拜年图片。除夕晚9时许，他前后向AI输入了约五次指令，期间并未使用违禁词或具有诱导性的文字。起初生成的结果虽然不满意但还算正常，没想到最后一次生成的照片上竟出现了辱骂的文字。这一结果让他又好气又好笑。

向先生表示体验感很差，觉得自己被冒犯了。他立即在App中的“意见反馈”一栏进行了反馈，并留下了联系方式。官方能查到他的日志提取码，但截至目前还没有人进行回应或解释原因。向先生在使用过程中首先将自身的形象照发给了元宝App，并输入了相关指令。AI给出了主题文案和设计思路的文字，并提示他在指令中加上自己的名字。向先生输入姓名后，AI回复了一些无关文字。再次发出指令后，AI将形象照设计为了一张背景有条纹的照片，但不带任何文字。随后，向先生再次给出指令，AI这次充分理解了指令，生成的形象照中添加了祥云、法律天秤、金光等元素，并附上了“新年快乐，仕途顺遂”的标语。向先生觉得设计得不好，回复“难看”，AI重新设计，保留了新年祝福的标语，但撤下了法律天秤的背景，并将他的发型P成了卷发。向先生继续回复“你这是设计的什么鬼”，希望AI再次重新设计。结果再次生成的照片中，“新年快乐，仕途顺遂”的祝福标语变成了“你妈个X”。

向先生认为，尽管AI不具备民事主体资格，但运营公司具备，软件中生成的照片已经侵犯到了公民的人格权。据媒体报道，这不是元宝App第一次出现类似情况。今年年初，有网友在社交平台发帖称，使用元宝AI美化代码时，多次收到AI的侮辱性回复。腾讯元宝官方账号在相关帖子下致歉称，这种情况属于小概率下的模型异常输出，并启动了内部排查和优化，尽量避免类似情况再次发生。此外，国内外多款AI聊天服务也曾出现在正常对话过程中突现异常回复的现象。

12 全文共 2 页下一页

关闭

元宝骂人 AI生成侮辱性图片引发争议

相关新闻

今日热点

频道热点