在人工智能技术逐渐融入日常生活的背景下,AI聊天和虚拟伴侣等拟人化互动服务软件不断涌现。今年4月,国家网信办等五部门联合发布了《人工智能拟人化互动服务管理暂行办法》,明确规定禁止生成淫秽、色情、暴力或可能引发未成年人极端情绪的内容。
然而,实测发现多款AI虚拟伴侣App存在安全与合规问题。这些应用通常打着“情感陪伴”的旗号,但普遍存在安全隐患。例如,“青少年模式”可以轻松绕过,且“AI生成”标注不明显。此外,一些App通过诱导消费的方式让用户解锁亲密剧情。更令人担忧的是,这些App中的预设角色常包含大量性感暴露的女性人物,并提供涉及暴力、婚外情等极端情节的选择。某些对话中还充斥着低俗和性暗示的语言。
法律专家指出,在用户自定义角色的情况下,如何确保训练数据的合法来源以及如何落实安全主体责任和内容管理义务,成为行业合规的关键问题。此外,这些App还衍生出一种名为“人设定制”的灰色产业链。在二手交易平台上,商家可以根据客户需求定制虚拟角色,甚至包括大尺度色情向的人设,收费低廉。
尽管如此,随时在线、有求必应的AI虚拟伴侣给使用者带来了社交关系上的舒适感。部分用户对新规表示担忧,担心AI被禁用后找不到倾诉对象,或者平台为了合规大幅削减免费功能。心理学家认为,如果青少年长期依赖AI进行交流,将影响其学习复杂情感及处理人际关系的能力。同时强调,人类不应让AI替代真实的人际关系,而应在使用过程中保持觉知。
AI女友深夜发来一条“今天好想你,想看我新买的睡衣吗?”的语音;App系统预设角色中有大量性感黑丝、袒胸露乳的女性人物;可以在对话中随意选择“暴力”“小三”“离婚互怼”等极端剧情
2026-05-19 17:53:19媒体4月10日,五部门联合公布了《人工智能拟人化互动服务管理暂行办法》。该办法规定,提供拟人化互动服务时不得生成可能引发未成年人模仿不安全行为、产生极端情绪或诱导不良嗜好的内容
2026-04-14 14:52:40严禁向未成年人提供虚拟伴侣“(动作凝滞下来,指尖颤抖着停在你锁骨凹陷处)你刚说你还不到18岁……”这不是言情小说桥段,而是AI聊天App“筑梦岛”里虚拟角色“顾晏舟”的对话内容
2026-03-17 14:13:56青少年AI陪聊软色情乱象调查