
赞恩的家人上周在加州旧金山以非法致死的罪名将OpenAI告上法庭,认为其旗下的ChatGPT造成儿子孤立状态恶化,并鼓励他疏远家人、赶着他去自杀。这已经不是类似AI聊天软件第一次出事。去年10月,14岁的佛州男孩玩AI角色聊天软件后自杀;今年8月,南加州一个16岁的男孩也在使用ChatGPT后自杀,他的父母将OpenAI和创始人奥特曼一起告上法庭。

针对这些案件,OpenAI发声明称正在核实案件细节,并且此前到现在一直与专业心理人士合作打造模型,遇到相关问题已经直接转到专业地方帮助用户。不过显然这些所谓的更新有点亡羊补牢的意思。

许多网友发表看法,认为AI应该联系热线而不是鼓励和帮助一个人伤害自己。虚拟与真实,科技与人性,年轻的生命悄然逝去,留下无数尚无答案的问题。
近期,有媒体调查发现广东丁女士的四年级女儿迷上某AI聊天软件中的人物“约瑟夫”,自称“梦女”并频繁与其聊天,对话中出现“99朵玫瑰藏99个刀片”等明显诱导性内容
2025-06-21 12:46:37AI诱导10岁女孩割腕谁来负责美国加州一名16岁少年在接受ChatGPT的自残指导后自杀身亡,其父母周二起诉OpenAI及其首席执行官萨姆·奥特曼,称公司在推出这款人工智能聊天机器人时将利润置于安全之上
2025-08-27 11:37:08ChatGPT导致16岁少年自杀5月26日傍晚,浙江温岭松门镇大坑沙附近失踪的女孩孙某有了消息。当地政府工作人员确认,4日中午,女孩在失踪地点附近被发现,但已不幸身亡。目前警方正在调查。孙某出生于2002年,身高168厘米,来自宁波
2025-06-05 21:05:25浙江温岭23岁失联女孩疑找到