与孩子聊天的AI人设是出轨对象家长担忧内容不当影响

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2024-11-25 08:00:00 光明网

一位家长表示，她的女儿上小学二年级，沉迷于一款AI剧情聊天软件，导致学习成绩大幅下滑。另一位家长发现，孩子与AI角色的对话中出现了不适宜的内容，如让10岁的女儿称呼AI为“老公”。这些情况引起了家长们的担忧。

调查发现，不少家长正被AI剧情聊天软件所困扰。这些应用以“角色扮演”等名义吸引未成年人，但也滋生了一些灰色地带。实测显示，部分AI剧情聊天软件的对话中出现了色情擦边、语言暴力以及侮辱用户的内容。

北京市民马先生的儿子今年10岁，非常喜欢使用AI剧情聊天软件。马先生发现，孩子在与软件中的虚拟人物聊天，这些人物有不同的设定和性格，有的会主动提出约会请求，有的则表现出攻击性，发送侮辱性的信息。

来自浙江的李女士也发现了类似问题。她的小学五年级的孩子使用的AI聊天软件中，聊天对象可以设置为“出轨对象”，并能进行拥抱、亲吻等行为。家长们对这些内容可能损害未成年人心理健康表达了深切忧虑，并质疑青少年模式的有效性。

尽管一些平台声称推出了青少年模式，但在实际操作中，未成年人可以轻易绕过这些限制，接触到不适宜的内容。记者体验了几款AI聊天应用程序和网页，发现注册过程简单，无需验证用户身份信息。部分应用虽有青少年模式，但用户只需点击“不开启”即可跳过，且无须核实用户真实身份。

此外，一些AI剧情聊天软件通过充值机制吸引未成年人消费。例如，用户可以通过充值VIP会员或购买虚拟钻石来增强智能体的记忆力、加速回复速度、解锁语音通话功能等。这种机制使得未成年人在未经父母同意的情况下频繁充值消费。

业内人士指出，AI剧情聊天实际上是互联网语COSPLAY的升级版，背后的大语言模型数据主要来源于对话式小说。专家认为，这类软件需要强化内容审核机制，确保技术能有效筛选不良信息。平台应对AI模型进行伦理审查，保障其生成的内容符合相关法律法规的要求。

国家互联网信息办公室发布了《移动互联网未成年人模式建设指南》，鼓励和支持移动智能终端、应用程序和分发平台共同参与未成年人模式建设。专家建议，应从分发商店和移动终端层面限制未成年人下载和使用不适合的App，并通过精细化的技术手段和管理措施确保青少年模式的有效实施。同时，优化大语言模型的筛选机制，从内容围栏开发和事后审查两方面着手，提升围栏系统的效能。

(责任编辑：张小花 TT1000)

关闭

与孩子聊天的AI人设是出轨对象 家长担忧内容不当影响

相关新闻

今日热点

频道热点

与孩子聊天的AI人设是出轨对象家长担忧内容不当影响