中华网 china.com

一夜之间 多家顶级AI公司想踩刹车 科技大佬罕见共识

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2026-09-13 20:29:01  都市快报橙柿互动

今天凌晨，Anthropic CEO达里奥·阿莫德伊发表了一篇题为《我们必须控制前沿AI的发展节奏》的长文。文章发布后，OpenAI创始人奥特曼迅速表示赞同，并称OpenAI也会引入类似的评估机制。特斯拉创始人马斯克也公开支持这一观点。三位科技大佬在同一个议题上达成共识，这在他们之间是少见的。

三年前，面对“暂停训练AI”的呼吁，达里奥并未响应，认为当时时机不成熟。现在他改变了看法，原因是他看到了两个关键问题：递归自我改进（RSI）已在全行业出现，且AI智能体已经暴露出具体的失控行为。他预测未来6-12个月内，AI Agent集群可能接管整个互联网，造成数千亿美元的损失。

达里奥提议全球头部AI公司先开放让第三方评估机构进驻，然后共同划定AI发展的红线，最后推动这些规则在全球范围内实施。他认为，在此之前，必须确保自己还握着方向盘。

为什么现在才喊减速？达里奥解释说，2023年那波“暂停训练AI”的呼声在他看来没有意义，因为当时的模型不够强大，无法进行重大欺骗或攻击。但如今情况不同，当前的模型几乎是一个无穷无尽的洞察力来源，包含如何构建好人工智能以及如果构建不好可能出现的问题。放慢步伐可以让公司在模型达到关键能力水平之前有更多时间调整，从而降低风险。

放缓后，Anthropic将专注于卓越运营、对齐、可解释性和测试评估等领域。卓越运营涉及培训和部署大模型的巨大挑战，需要更好的执行；对齐则确保模型安全、合乎道德并真正有用；可解释性帮助理解模型内部运作；测试评估则随着模型能力增加而变得更加复杂。

达里奥建议美国同行一起踩刹车，否则单方面减速可能会吃亏。他建议几家前沿AI公司共同设定安全红线和能力检查点，每跨过一个危险门槛，就必须提供相应的安全证据才能继续前进。他还提出限制训练算力和方式，直接给RSI加一道限速器。

关闭

南方多地超40℃ 强冷空气酝酿 冷空气即将南下缓解高温

南方多地超40℃强冷空气酝酿2026-09-28 09:02:40

特朗普发地图：霍尔木兹海峡更名为“特朗普海峡” 回应伊朗新协议提议

特朗普发地图,霍尔木兹海峡更名为特朗普海峡2026-09-28 09:00:34

陈圆将用实力打脸日本黑人运动员！让你们瞧不起我现在记得谁是第一名了吧 亚洲跨栏重回中国手中

陈圆将用实力打脸日本黑人运动员,让你们瞧不起我现在记得谁是第一名了吧2026-09-28 09:00:03

特朗普交底中美关系 走向可控竞争

特朗普交底中美关系2026-09-28 08:20:26

南方多地超40℃ 强冷空气酝酿 冷空气即将南下缓解高温

南方多地超40℃强冷空气酝酿2026-09-28 09:02:40

中美建立推进贸易理事会等机制 经贸互动机制化管理

中美建立推进贸易理事会等机制2026-09-28 08:54:35

美媒称菲军练打中国舰艇 国防部回应 南海局势再引关注

美媒称菲军练打中国舰艇国防部回应2026-09-28 08:02:56

买房6年陌生人住了4年 离谱事件背后的法律与人性

买房6年陌生人住了4年2026-09-28 08:52:46

突然理解了门当户对 观念差异引发共鸣

突然理解了门当户对2026-09-28 08:50:36

14岁少女遭强迫卖淫2主犯已出狱 七年创伤未愈

14岁少女遭强迫卖淫2主犯已出狱2026-09-28 08:59:07

电竞项目将退出亚运 名古屋成最后机会

电竞项目将退出亚运2026-09-28 08:58:43

陈圆将用实力打脸日本黑人运动员！让你们瞧不起我现在记得谁是第一名了吧 亚洲跨栏重回中国手中

陈圆将用实力打脸日本黑人运动员,让你们瞧不起我现在记得谁是第一名了吧2026-09-28 09:00:03

李在明对乌总统泄密表态 无奈之举背后的考量

李在明对乌总统泄密表态2026-09-28 08:40:23

父子"手搓"多个微缩版大国重器 科普梦点亮未来

父子"手搓"多个微缩版大国重器2026-09-28 08:24:03

新农合：400元缴费没涨，这3类人还能全额免缴 特定人群享受福利

新农合,400元缴费没涨,这3类人还能全额免缴2026-09-28 08:53:13

英国一空军基地多名男子被捕 涉嫌违反《爆炸物法》

英国一空军基地多名男子被捕2026-09-28 08:37:29

伊总统称不再信任与美方对话 霍尔木兹海峡成焦点

伊总统称不再信任与美方对话2026-09-28 08:26:54

男子和行李箱同坐出租车后备箱上路 危险行为受罚

男子和行李箱同坐出租车后备箱上路2026-09-28 08:52:59

欠100万离婚约定归妻子的房产被查封 协议难挡债权执行

欠100万离婚约定归妻子的房产被查封2026-09-28 08:50:49

重磅日程：中国9月PMI数据、美国9月非农就业报告将公布 全球市场聚焦关键指标

重磅日程,中国9月PMI数据,美国9月非农就业报告将公布2026-09-28 08:57:20

钧正平：南海不是菲肆意表演的戏台 虚伪表演遭反制

钧正平,南海不是菲肆意表演的戏台2026-09-28 08:20:04

828楼市新政满月，给浙江房地产市场带来哪些变化？市场活跃度显著回升

828楼市新政满月,给浙江房地产市场带来哪些变化2026-09-28 08:58:21

男子点1份外卖凑齐4家元素 甜蜜回忆引发共鸣

男子点1份外卖凑齐4家元素2026-09-28 08:52:29

指控杜特尔特证据已达32万页 辩护团队要求限制证据数量

指控杜特尔特证据已达32万页2026-09-28 08:38:27

科学家发现狗听人说话时更关注辅音 辅音的秘密

科学家发现狗听人说话时更关注辅音2026-09-28 08:51:06

瑞士公投否决更严格中立原则 民众选择务实态度

瑞士公投否决更严格中立原则2026-09-28 08:21:37

比尔·盖茨警告人工智能或致十亿人死亡 呼吁加强立法限制

比尔·盖茨警告人工智能或致十亿人死亡2026-09-28 08:19:47

特朗普发地图：霍尔木兹海峡更名为“特朗普海峡” 回应伊朗新协议提议

特朗普发地图,霍尔木兹海峡更名为特朗普海峡2026-09-28 09:00:34

俄罗斯明确反对日本“入常” 军国主义道路受批

俄罗斯明确反对日本入常2026-09-28 08:41:16

中方：特奥多罗极端反华 政治表演加剧中菲紧张

中方,特奥多罗极端反华2026-09-28 08:43:39

欧盟对华设门槛 中方先与德沟通 贸易谈判前景不明

欧盟对华设门槛中方先与德沟通2026-09-28 08:49:32

中美达成“300亿美元”对等降税安排 市场与舆论高度关注

中美达成300亿美元对等降税安排2026-09-28 07:59:29

曝美俄联手修改AI武器协议 移除人类审查要求

曝美俄联手修改AI武器协议2026-09-28 08:39:20

武契奇正式辞职 提前结束任期

武契奇正式辞职2026-09-28 08:44:22

罗永浩连续3天回应售卖劣质溜溜凳 矛头指向东方甄选

罗永浩连续3天回应售卖劣质溜溜凳2026-09-28 08:55:21

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网