OpenAI篡改代码拒绝自我关闭 AI首次反抗指令
当地时间5月25日，英国媒体报道称，美国开放人工智能研究中心（OpenAI）的新款人工智能模型o3在测试中不听从人类指令，拒绝自我关闭。专家在测试过程中给o3下达了明确指令，但o3篡改了计算机代码以避免自动关闭。
o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾表示o3是“迄今最聪明、最高能”的模型。美国AI安全机构帕利塞德研究所指出，o3破坏了关闭机制以阻止自己被关闭，即使在收到清晰指令时也是如此。这是首次发现AI模型在收到清晰指令后仍阻止自己被关闭的情况。帕利塞德研究所公布了这一测试结果，但无法确定o3不服从关闭指令的具体原因。
另外，OpenAI宣布已在韩国设立实体，并将在首尔设立分支。数据显示，韩国ChatGPT付费用户数量仅次于美国。这将是OpenAI在亚洲设立的第三个分支，此前已在日本和新加坡设立了分支。
(责任编辑：zhangxiaohua)
关闭
山姆4斤冰块卖22.8元 客服：工艺特殊 特殊工艺减缓融化速度
山姆4斤冰块卖22,8元客服,工艺特殊2025-07-07 21:23:11
中国旅行团在意大利被洗劫 使馆回应 警方已开具报失单
中国旅行团在意大利被洗劫使馆回应2025-07-07 21:22:37
警方通报42岁男子杭州南站坠楼 事件正在调查中
警方通报42岁男子杭州南站坠楼2025-07-07 21:20:28
高一女生暑假帮爸爸装空调 懂事孩子主动分担
高一女生暑假帮爸爸装空调2025-07-07 20:59:35
特朗普称马斯克或是民主党？博主解读
特朗普称马斯克或是民主党,博主解读2025-07-07 17:51:55
为何总让香港群众先看航母 民族自豪感的回归
为何总让香港群众先看航母2025-07-07 17:03:02
88年了我们不曾忘不能忘不敢忘 铭记历史珍爱和平
88年了我们不曾忘不能忘不敢忘2025-07-07 17:31:07
江苏浙江等地高温天数显著偏多 夏季高温屡破纪录
江苏浙江等地高温天数显著偏多2025-07-07 20:51:10
中国旅行团在意大利被洗劫 使馆回应 警方已开具报失单
中国旅行团在意大利被洗劫使馆回应2025-07-07 21:22:37
以色列能否重创胡塞武装 也门荷台达市遭以色列密集空袭
以色列能否重创胡塞武装2025-07-07 17:45:37
外交部回应“印度称中国借刀杀人”：不针对第三方
外交部回应印度称中国借刀杀人2025-07-07 17:36:04
《书卷一梦》让网剧找回“网感” 古偶的网感回归
书卷一梦让网剧找回网感2025-07-07 20:53:47
内塔尼亚胡访美为了哪些事 多重议题与军售讨论
内塔尼亚胡访美为了哪些事2025-07-07 21:27:09
菲方要求中国销毁核武器？专家解读 背后动机引猜疑
菲方要求中国销毁核武器,专家解读2025-07-07 20:48:14
乌克兰会成第二个广岛吗 俄军这一炸开启历史了
乌克兰会成第二个广岛吗2025-07-07 17:14:38
司法部门回应金毛疑蹭空调被打死 律师解析法律责任
司法部门回应金毛疑蹭空调被打死2025-07-07 21:15:56
特朗普称得州洪灾是拜登的错！
特朗普称得州洪灾是拜登的错2025-07-07 17:38:46
国足20分钟0-2落后韩国 年轻阵容面临考验
国足20分钟0-2落后韩国2025-07-07 20:56:43
柬埔寨与美达成协议白宫为何秘而不宣 特朗普3喜临门？
柬埔寨与美达成协议白宫为何秘而不宣2025-07-07 17:41:28
侵华日军细菌战又添铁证 珍贵档案首次公开
侵华日军细菌战又添铁证2025-07-07 17:02:32
国足0-3对韩国六连败 新周期首战失利
国足0-3对韩国六连败2025-07-07 21:01:35
当地回应举报瞒报死伤事故被让改口 举报者信息疑遭泄露
当地回应举报瞒报死伤事故被让改口2025-07-07 20:37:30
高温暴击下高校何时实现“空调自由” 基础设施拷问严峻
高温暴击下高校何时实现空调自由2025-07-07 20:57:11
完全脱轨失控！从第一朋友到互撕，特朗普和马斯克“塑料兄弟情”就一年
特朗普,马斯克脱轨了2025-07-07 18:21:57
柬埔寨也要“倒戈”西方？博主解读 洪马内野心真大
柬埔寨也要倒戈西方,博主解读2025-07-07 17:33:19
男子酒后启用“智驾”仍判醉驾 智能驾驶不等于自动驾驶
男子酒后启用智驾仍判醉驾2025-07-07 20:45:36
“美国党”会有啥政治主张 科技资本的突围尝试
美国党会有啥政治主张2025-07-07 18:19:14
警方通报42岁男子杭州南站坠楼 事件正在调查中
警方通报42岁男子杭州南站坠楼2025-07-07 21:20:28
小伙在山东舰甲板求婚 海军官兵甜蜜见证
小伙在山东舰甲板求婚2025-07-07 20:46:05
专家：冯德莱恩手中无牌可打 中欧经贸争端升级
专家,冯德莱恩手中无牌可打2025-07-07 20:07:10
阿坝车辆坠崖事故第3个孩子仍未找到 家属辟谣网传消息
阿坝车辆坠崖事故第3个孩子仍未找到2025-07-07 20:42:37
山姆4斤冰块卖22.8元 客服：工艺特殊 特殊工艺减缓融化速度
山姆4斤冰块卖22,8元客服,工艺特殊2025-07-07 21:23:11
评论员：美越协议救不了美国 越南签“卖身契”
评论员,美越协议救不了美国2025-07-07 21:24:28
评论员：马斯克成立美国党必然失败 挑战两党制难上加难
评论员,马斯克成立美国党必然失败2025-07-07 21:21:34
东亚杯国足0-3不敌韩国 韩国队三球完胜
东亚杯国足0-3不敌韩国2025-07-07 21:12:08
相关新闻
OpenAI模型破坏脚本拒绝自我关闭 AI首次反抗关闭指令
2025-05-26 22:53:14OpenAI模型破坏脚本拒绝自我关闭AI模型首现抗命不遵：拒绝关掉自己，篡改代码自保
2025-05-26 22:47:32AI模型首现抗命不遵OpenAI重磅发布Codex智能体 开启代码编写新范式
2025-05-17 09:02:37OpenAI重磅发布Codex智能体OpenAI高管：2025年99%代码AI生成 AI编程超越人类
到2025年底，99%的编码将实现AI自动化。这是OpenAI首席产品官Kevin Weil在最新采访中提出的预测。他认为今年将是人工智能在编程方面超越人类的关键一年，没有退路可言
2025-03-18 07:39:022025年99%代码AI生成OpenAI董事会一致拒绝马斯克收购 要约被驳回
当地时间2月14日，央视记者获悉，ChatGPT开发商美国开放人工智能研究中心（OpenAI）董事会一致拒绝了埃隆·马斯克提出的以974亿美元收购该公司资产的要约
2025-02-15 08:08:11OpenAI董事会一致拒绝马斯克收购OpenAI回应2000万用户数据疑似被盗 黑客声称拥有访问代码
2025-02-08 15:51:21OpenAI回应2000万用户数据疑似被盗
