新闻
当前位置:新闻 > 热点新闻 > 正文

陪伴型AI越来越“懂你”,人机关系的新边界在哪?(2)

“值得一提的是,未成年人处于认知发展阶段,老年人面临数字鸿沟挑战,这些群体在使用拟人化互动服务时,更需要适当的引导和保护机制,以防止产生过度依赖。此外,拟人化互动服务在交互过程中往往较直接地输出内容,价值观传递更加隐蔽和潜移默化,对用户世界观、人生观、价值观的影响更为深远。”张震说。

西南政法大学校长、中国法学会副会长林维表示,在此背景下,制定《办法》,有利于促进人工智能拟人化互动服务有序开展,引领人工智能“负责任创新”,为构建“以人为本”的人工智能治理体系提供重要的制度支撑。

构建多维度风险防控体系

在林维看来,《办法》精准识别并系统回应了由“拟人化”和“情感交互”两大核心特征所衍生的突出风险,以“人机边界模糊”为治理重点,构建多维度风险防控体系。

《办法》提出,建立身份透明制度,划定拟人化安全红线,精准防范人机边界模糊引发的认知混淆、信任侵蚀、人格权侵害及伦理越界等风险。“以显著标识义务为核心的身份透明制度重在保障用户知情权与选择权,为法律追责提供清晰起点,能够有效遏制技术滥用的匿名性庇护,从源头降低认知混淆与信任侵蚀风险。”林维说。

拟人化互动服务因其高度情感回应性与陪伴特性,具有天然的沉迷风险。《办法》提出,服务提供者应当显著提示用户正在与人工智能而非自然人进行交互。在用户初次使用、重新登录时,应以弹窗等方式动态提醒用户交互内容为人工智能生成。事中阶段,要求设置中断冷却提醒功能。要求用户连续使用服务超过一定时长时,应以弹窗等形式提醒用户休息,旨在周期性打破算法营造的沉浸式幻觉。

在加强特殊群体保护方面,《办法》提出,拟人化互动服务提供者应当建立应急响应机制,发现用户明确提出实施自杀、自残等极端情境时,由人工接管对话,并及时采取措施联络用户监护人、紧急联系人。针对未成年人、老年人用户,提供者应当在注册环节要求填写用户监护人、紧急联系人等信息。

推荐阅读

24小时热点