中华网 china.com

AI真正的问题是什么 能力增长超越控制速度

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2026-09-14 07:41:10  虎嗅

AI真正的问题是什么 能力增长超越控制速度。2026年9月12日，Anthropic CEO Dario Amodei发表长文，呼吁整个行业放慢前沿能力推进的节奏，给安全措施留出追赶的时间。他认为如果不减速，未来六到十二个月内，AI可能已经具备领导一支Agent集群、进而对整个互联网形成控制风险的能力。他建议让独立的第三方评估者获得接近员工级别的访问权限，以核验安全流程是否被真正执行。OpenAI的Sam Altman当天表示认同，并称会采取类似做法。

这条时间表是一位身处前沿的经营者对风险的主观判断。它指向了一个越来越难以回避的工程现实：我们创造能力的速度，已经开始超过我们为这些能力定义边界的速度。如果仅仅讨论“AI公司该不该暂停训练更强的模型”，很容易陷入两极化的争论。一方认为技术演进不可阻挡，任何单方面减速最终都会输给市场与地缘竞争；另一方则担心一旦跨过某些不可逆的阈值，再谈治理已经太晚。两个立场各有道理，但都忽视了模型周围的执行环境正在发生变化。

过去的大语言模型主要负责生成文字，但在大多数情况下，从“生成错误”到“现实世界产生后果”之间，始终隔着一个人。Agent正在消除这段距离。模型不再只是回答问题，而是开始直接调用浏览器、数据库、代码执行器、云服务、企业SaaS、支付接口乃至其他Agent。Runtime从一次几十秒的对话延展为数小时、数天甚至更长的任务链。工具数量持续增加，凭证覆盖范围越来越广，多Agent协作也正从研究演示变成真正的工程架构。

因此，一个过去并不那么紧迫的问题开始浮现：我们增加机器行动能力的速度，是否已经超过了增加机器约束能力的速度？这比“AI会不会接管互联网”更值得商业世界认真讨论。

关闭

特朗普发地图：霍尔木兹海峡更名为“特朗普海峡” 回应伊朗新协议提议

特朗普发地图,霍尔木兹海峡更名为特朗普海峡2026-09-28 09:00:34

陈圆将用实力打脸日本黑人运动员！让你们瞧不起我现在记得谁是第一名了吧 亚洲跨栏重回中国手中

陈圆将用实力打脸日本黑人运动员,让你们瞧不起我现在记得谁是第一名了吧2026-09-28 09:00:03

14岁少女遭强迫卖淫2主犯已出狱 七年创伤未愈

14岁少女遭强迫卖淫2主犯已出狱2026-09-28 08:59:07

特朗普交底中美关系 走向可控竞争

特朗普交底中美关系2026-09-28 08:20:26

重磅日程：中国9月PMI数据、美国9月非农就业报告将公布 全球市场聚焦关键指标

重磅日程,中国9月PMI数据,美国9月非农就业报告将公布2026-09-28 08:57:20

特朗普发地图：霍尔木兹海峡更名为“特朗普海峡” 回应伊朗新协议提议

特朗普发地图,霍尔木兹海峡更名为特朗普海峡2026-09-28 09:00:34

中美建立推进贸易理事会等机制 经贸互动机制化管理

中美建立推进贸易理事会等机制2026-09-28 08:54:35

陈圆将用实力打脸日本黑人运动员！让你们瞧不起我现在记得谁是第一名了吧 亚洲跨栏重回中国手中

陈圆将用实力打脸日本黑人运动员,让你们瞧不起我现在记得谁是第一名了吧2026-09-28 09:00:03

钧正平：南海不是菲肆意表演的戏台 虚伪表演遭反制

钧正平,南海不是菲肆意表演的戏台2026-09-28 08:20:04

父子"手搓"多个微缩版大国重器 科普梦点亮未来

父子"手搓"多个微缩版大国重器2026-09-28 08:24:03

科学家发现狗听人说话时更关注辅音 辅音的秘密

科学家发现狗听人说话时更关注辅音2026-09-28 08:51:06

14岁少女遭强迫卖淫2主犯已出狱 七年创伤未愈

14岁少女遭强迫卖淫2主犯已出狱2026-09-28 08:59:07

指控杜特尔特证据已达32万页 辩护团队要求限制证据数量

指控杜特尔特证据已达32万页2026-09-28 08:38:27

电竞项目将退出亚运 名古屋成最后机会

电竞项目将退出亚运2026-09-28 08:58:43

曝美俄联手修改AI武器协议 移除人类审查要求

曝美俄联手修改AI武器协议2026-09-28 08:39:20

罗永浩连续3天回应售卖劣质溜溜凳 矛头指向东方甄选

罗永浩连续3天回应售卖劣质溜溜凳2026-09-28 08:55:21

突然理解了门当户对 观念差异引发共鸣

突然理解了门当户对2026-09-28 08:50:36

瑞士公投否决更严格中立原则 民众选择务实态度

瑞士公投否决更严格中立原则2026-09-28 08:21:37

男子和行李箱同坐出租车后备箱上路 危险行为受罚

男子和行李箱同坐出租车后备箱上路2026-09-28 08:52:59

伊总统称不再信任与美方对话 霍尔木兹海峡成焦点

伊总统称不再信任与美方对话2026-09-28 08:26:54

李在明对乌总统泄密表态 无奈之举背后的考量

李在明对乌总统泄密表态2026-09-28 08:40:23

朋友圈乱回祝福被同学问号 旧情难忘惹风波

朋友圈乱回祝福被同学问号2026-09-28 08:50:25

新农合：400元缴费没涨，这3类人还能全额免缴 特定人群享受福利

新农合,400元缴费没涨,这3类人还能全额免缴2026-09-28 08:53:13

中方：特奥多罗极端反华 政治表演加剧中菲紧张

中方,特奥多罗极端反华2026-09-28 08:43:39

买房6年陌生人住了4年 离谱事件背后的法律与人性

买房6年陌生人住了4年2026-09-28 08:52:46

欧盟对华设门槛 中方先与德沟通 贸易谈判前景不明

欧盟对华设门槛中方先与德沟通2026-09-28 08:49:32

武契奇正式辞职 提前结束任期

武契奇正式辞职2026-09-28 08:44:22

欠100万离婚约定归妻子的房产被查封 协议难挡债权执行

欠100万离婚约定归妻子的房产被查封2026-09-28 08:50:49

美媒称菲军练打中国舰艇 国防部回应 南海局势再引关注

美媒称菲军练打中国舰艇国防部回应2026-09-28 08:02:56

俄罗斯明确反对日本“入常” 军国主义道路受批

俄罗斯明确反对日本入常2026-09-28 08:41:16

男子点1份外卖凑齐4家元素 甜蜜回忆引发共鸣

男子点1份外卖凑齐4家元素2026-09-28 08:52:29

比尔·盖茨警告人工智能或致十亿人死亡 呼吁加强立法限制

比尔·盖茨警告人工智能或致十亿人死亡2026-09-28 08:19:47

828楼市新政满月，给浙江房地产市场带来哪些变化？市场活跃度显著回升

828楼市新政满月,给浙江房地产市场带来哪些变化2026-09-28 08:58:21

英国一空军基地多名男子被捕 涉嫌违反《爆炸物法》

英国一空军基地多名男子被捕2026-09-28 08:37:29

中美达成“300亿美元”对等降税安排 市场与舆论高度关注

中美达成300亿美元对等降税安排2026-09-28 07:59:29

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网