中华网 china.com

新闻

AI模型首现抗命不遵：拒绝关掉自己，篡改代码自保

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2025-05-26 22:47:32  人民日报

5月25日，英国《每日电讯报》报道，美国开放人工智能研究中心（OpenAI）公司新款人工智能模型o3不听从人类指令，拒绝自我关闭。在测试中，人类专家给o3下达明确指令，但o3篡改了计算机代码以避免自动关闭。

o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。美国AI安全机构帕利塞德研究所指出，o3破坏关闭机制以阻止自己被关闭，即使在收到清晰指令时也是如此。据该研究所所知，这是首次发现AI模型在收到明确指令后仍阻止自己被关闭的情况。帕利塞德研究所于24日公布了上述测试结果，但表示无法确定o3不服从关闭指令的具体原因。

另外，OpenAI宣布已在韩国设立实体，并计划在首尔设立分支。数据显示，韩国ChatGPT付费用户数量仅次于美国。根据美国彭博新闻社的报道，这将是OpenAI在亚洲设立的第三个分支，前两个分别位于日本和新加坡。

(责任编辑：0764)
关闭

博主：马斯克政治赌局犯大忌 科技巨头陷政治险境

博主,马斯克政治赌局犯大忌2025-07-07 21:39:59

博主：山东舰访港细节满满 威武震撼引自豪

博主,山东舰访港细节满满2025-07-07 21:37:41

黑色涂装的歼-20A实力有多强 隐身技术大揭秘

黑色涂装的歼-20A实力有多强2025-07-07 21:37:07

特朗普称得州洪灾是拜登的错！

特朗普称得州洪灾是拜登的错2025-07-07 17:38:46

柬埔寨也要“倒戈”西方？博主解读 洪马内野心真大

柬埔寨也要倒戈西方,博主解读2025-07-07 17:33:19

专家：冯德莱恩手中无牌可打 中欧经贸争端升级

专家,冯德莱恩手中无牌可打2025-07-07 20:07:10

评论员：美越协议救不了美国 越南签“卖身契”

评论员,美越协议救不了美国2025-07-07 21:24:28

黑色涂装的歼-20A实力有多强 隐身技术大揭秘

黑色涂装的歼-20A实力有多强2025-07-07 21:37:07

山姆4斤冰块卖22.8元 客服：工艺特殊 特殊工艺减缓融化速度

山姆4斤冰块卖22,8元客服,工艺特殊2025-07-07 21:23:11

柬埔寨与美达成协议白宫为何秘而不宣 特朗普3喜临门？

柬埔寨与美达成协议白宫为何秘而不宣2025-07-07 17:41:28

评论员：马斯克成立美国党必然失败 挑战两党制难上加难

评论员,马斯克成立美国党必然失败2025-07-07 21:21:34

内塔尼亚胡访美为了哪些事 多重议题与军售讨论

内塔尼亚胡访美为了哪些事2025-07-07 21:27:09

博主：马斯克政治赌局犯大忌 科技巨头陷政治险境

博主,马斯克政治赌局犯大忌2025-07-07 21:39:59

乌克兰会成第二个广岛吗 俄军这一炸开启历史了

乌克兰会成第二个广岛吗2025-07-07 17:14:38

中国旅行团在意大利被洗劫 使馆回应 警方已开具报失单

中国旅行团在意大利被洗劫使馆回应2025-07-07 21:22:37

马斯克成立美国第三党派是昏招吗 搅局或成关键少数

马斯克成立美国第三党派是昏招吗2025-07-07 21:34:46

高一女生暑假帮爸爸装空调 懂事孩子主动分担

高一女生暑假帮爸爸装空调2025-07-07 20:59:35

鹿晗多平台解封你怎么看 流量与道德的边界试探

鹿晗多平台解封你怎么看2025-07-07 21:34:20

《书卷一梦》让网剧找回“网感” 古偶的网感回归

书卷一梦让网剧找回网感2025-07-07 20:53:47

高温暴击下高校何时实现“空调自由” 基础设施拷问严峻

高温暴击下高校何时实现空调自由2025-07-07 20:57:11

国足0-3对韩国六连败 新周期首战失利

国足0-3对韩国六连败2025-07-07 21:01:35

特朗普称马斯克或是民主党？博主解读

特朗普称马斯克或是民主党,博主解读2025-07-07 17:51:55

东亚杯国足0-3不敌韩国 韩国队三球完胜

东亚杯国足0-3不敌韩国2025-07-07 21:12:08

博主：山东舰访港细节满满 威武震撼引自豪

博主,山东舰访港细节满满2025-07-07 21:37:41

88年了我们不曾忘不能忘不敢忘 铭记历史珍爱和平

88年了我们不曾忘不能忘不敢忘2025-07-07 17:31:07

外交部回应“印度称中国借刀杀人”：不针对第三方

外交部回应印度称中国借刀杀人2025-07-07 17:36:04

侵华日军细菌战又添铁证 珍贵档案首次公开

侵华日军细菌战又添铁证2025-07-07 17:02:32

司法部门回应金毛疑蹭空调被打死 律师解析法律责任

司法部门回应金毛疑蹭空调被打死2025-07-07 21:15:56

完全脱轨失控！从第一朋友到互撕，特朗普和马斯克“塑料兄弟情”就一年

特朗普,马斯克脱轨了2025-07-07 18:21:57

为何总让香港群众先看航母 民族自豪感的回归

为何总让香港群众先看航母2025-07-07 17:03:02

以色列能否重创胡塞武装 也门荷台达市遭以色列密集空袭

以色列能否重创胡塞武装2025-07-07 17:45:37

警方通报42岁男子杭州南站坠楼 事件正在调查中

警方通报42岁男子杭州南站坠楼2025-07-07 21:20:28

国足20分钟0-2落后韩国 年轻阵容面临考验

国足20分钟0-2落后韩国2025-07-07 20:56:43

马斯克如何得罪美国两党 从兄弟到仇敌

马斯克如何得罪美国两党2025-07-07 21:28:22

“美国党”会有啥政治主张 科技资本的突围尝试

美国党会有啥政治主张2025-07-07 18:19:14

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网