马斯克的xAI公司旗下的智能聊天机器人“格罗克”因平台监管缺失,被广泛滥用于生成网络色情图片,甚至涉及儿童色情领域,遭到多个国家的批评与抵制,部分国家已启动调查。
1月初,31岁的音乐人朱莉·由里香在社交媒体上发布了一张身着红色连衣裙的照片。之后她接到通知,称有用户正通过Grok对该照片进行“数字变装处理”。起初她并不在意,但很快她的比基尼和几近全裸的照片在社交平台X上广泛传播,令她感到震惊。
由里香的经历只是众多AI侵权案例之一。据英国《卫报》报道,Grok的用户群体平均每小时要生成6700多张“脱衣”图像。AI及社交媒体问题专家恩瓦楚库表示,利用Grok进行“变装”的操作早在去年就已见端倪,到了年底这类申请大幅增加。xAI甚至在Grok视频生成功能中加入了“火辣模式”,媒体讽刺这本质上是为了“搞擦边”而特别定制的功能。
Grok受众面宽泛且相关功能缺乏监管。英国三一学院的一项研究显示,在社交平台X上由Grok生成的图像中有3/4的部分均出自真实存在的女性或未成年人,且未经当事人同意。
截至本月10日,Grok的问题已经引起了英国、印度、澳大利亚和整个欧盟的高度关注,多国政府进行了谴责并展开调查。同日,印度尼西亚宣布禁用Grok,认为它严重侵犯人权尊严以及公民网络安全。英国首相斯塔默痛斥Grok相关内容令人不齿,科学、创新与技术大臣肯德尔表示未来数日英政府将基于通信管理局的评估决定是否将其封杀。澳大利亚总理阿尔巴尼斯赞同斯塔默的意见,认为涉事平台缺乏社会责任感。欧盟委员会发言人雷尼耶指出,这类内容无关“火辣”,就是赤裸裸的违法,在欧盟不应有生存空间。
面对全球多国的愤怒,Grok仅做出小幅调整,将图像生成与编辑功能设置为“仅限付费用户使用”,并鼓励用户积极订阅以解锁相关功能。
印尼和马来西亚近日相继宣布暂时封禁美国企业家埃隆·马斯克旗下的人工智能聊天机器人“格罗克(Grok)”,原因是担心它被用于生成色情内容
2026-01-13 14:39:53马斯克旗下AI闯祸当地时间周一,马斯克的社交平台X短暂封禁了马斯克的人工智能聊天机器人Grok的认证账号。尽管封禁时间只有几分钟,但Grok在被用户询问时未能明确解释原因
2025-08-12 14:28:48Grok遭自家社交平台封禁印度尼西亚通信和数字事务部长于10日宣布,由于担心人工智能生成色情内容,该国暂时封禁了埃隆·马斯克旗下公司xAI开发的聊天机器人“格罗克”。这是全球首个禁止访问该人工智能工具的国家
2026-01-11 08:00:40全球首次美国企业家埃隆·马斯克旗下的人工智能企业xAI开发的聊天机器人“格罗克”因新增图像编辑功能,被用户用于生成涉及成年女性和未成年人的深度伪造色情内容。英国等多个国家对此表示谴责
2026-01-07 17:05:42马斯克旗下AI被指涉色情内容