法国巴黎检方于2026年1月2日宣布,将对美国企业家马斯克旗下人工智能企业xAI的聊天机器人“格罗克”涉嫌生成非法色情内容展开调查。这款聊天机器人由xAI公司开发,并内置于马斯克拥有的社交媒体平台X上,用户可以直接调用。最近,有部分用户利用该聊天机器人编辑图片和视频,生成的内容以假乱真,其中一些涉及真实人物的虚假性暴露内容在X平台上广泛传播,受害者包括数百名女性和未成年人。
多名法国政府部长及国民议会议员针对上述现象向司法部门报案,随后巴黎检方表示将启动相关调查。据法国媒体报道,巴黎检方自去年7月起已对X平台进行调查,原因是X涉嫌通过控制算法为外国干涉提供帮助。此次对“格罗克”的调查是对现有调查的延伸。
上周五,印度和法国政府官员发表声明,承诺将对此事进行调查。此前,xAI曾被曝在未提前告知的情况下公开了人类与该公司聊天机器人Grok的对话,这些内容可在谷歌上搜索到,搜索引擎已收录超过37万条用户与机器人的对话记录。
自2022年ChatGPT推出以来,人工智能图像生成平台的普及引发了人们对内容操纵和网络安全的普遍担忧,导致越来越多的平台生成了真实人物的深度伪造色情图像。另外,巴黎检察院于2025年7月11日发布公报称,社交媒体平台X(原推特)因被举报操纵算法实施外国干涉行为而接受调查。举报人怀疑X平台操纵其内容推送算法,刻意突出极右翼倾向的内容,在最近欧洲的一些选举中提高特定候选人的曝光度。调查将重点围绕破坏自动数据处理系统的正常运行以及非法提取数据两项涉嫌犯罪行为展开。
巴黎检方宣布将对美国企业家马斯克旗下的人工智能企业xAI的聊天机器人“格罗克”涉嫌生成非法色情内容展开调查。该聊天机器人由xAI公司开发,并内置于马斯克拥有的社交媒体平台X,用户可以直接调用
2026-01-03 17:24:49法国对Grok涉嫌生成色情内容启动调查印尼和马来西亚近日相继宣布暂时封禁美国企业家埃隆·马斯克旗下的人工智能聊天机器人“格罗克(Grok)”,原因是担心它被用于生成色情内容
2026-01-13 14:39:53马斯克旗下AI闯祸巴黎检方宣布将对美国企业家马斯克旗下人工智能企业xAI的聊天机器人“格罗克”涉嫌生成非法色情内容展开调查。该聊天机器人由xAI公司开发,并内置于马斯克拥有的社交媒体平台X,用户可以直接调用
2026-01-03 14:34:48法国对Grok启动调查印度尼西亚通信和数字事务部长于10日宣布,由于担心人工智能生成色情内容,该国暂时封禁了埃隆·马斯克旗下公司xAI开发的聊天机器人“格罗克”。这是全球首个禁止访问该人工智能工具的国家
2026-01-11 08:00:40全球首次