科学家警告AI浏览器越聪明越危险内部声音呼吁放慢脚步

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2026-08-03 11:29:43 网易

科学家警告AI浏览器越聪明越危险内部声音呼吁放慢脚步。近年来，关于人工智能风险的讨论一直持续不断。真正值得关注的是来自AI核心圈内部的声音。2026年7月，一份名为《Pacing the Frontier》的公开声明引起了全球关注。这份声明由1224位全球顶级AI从业者共同签署，涵盖了Anthropic CEO Dario Amodei、OpenAI首席科学家Jakub Pachocki、Meta AI首席科学家Shengjia Zhao等重要实验室的核心研究人员。这些人不仅是旁观者，更是当前最先进AI系统的设计者。

当这些行业内的专家开始呼吁放慢脚步时，这已经不仅仅是一次技术讨论，而是一次来自行业内部的集体预警。他们担心的并不是AI是否会变得更聪明，而是人类是否能跟上AI进步的速度。

声明中最核心的担忧是自动化AI研究正在成为现实。过去，人类负责设计模型、优化算法和验证结果。未来，AI自己就能完成这些工作。这意味着AI不再只是一个工具，而是新的AI开发者。一旦形成这样的闭环：AI改进自身，生成更强的AI，再进一步改进，整个技术进步可能进入指数级增长。这种趋势已经开始显现，仅仅四年时间，AI已经从只能理解自然语言发展到能够完成超越人类的软件工程任务，并在前沿数学研究中取得突破。如果未来AI能够自主完成科研，其发展速度可能会超过任何团队或公司的理解能力。真正危险的是AI变聪明的速度脱离了人类控制。

另一个令人警惕的问题是AI已经具备现实世界的攻击能力。Meta AI首席科学家Shengjia Zhao团队开发的安全评测系统显示，前沿AI Agent已经能够自主发现软件漏洞并尝试利用这些漏洞进行攻击。这意味着未来的网络攻击可能不再是人工操作，而是可以24小时工作的AI。相比传统黑客，AI有天然优势，如果安全能力不能同步提升，现有的大部分网络防御体系将面临前所未有的压力。

尽管大家都意识到了风险，但没有公司愿意主动放慢脚步。这是因为减速会导致市场、人才和资本流向竞争对手。因此，整个行业陷入了一种循环：每个人都知道速度太快，但每个人又只能继续加速。这也是为什么这份声明呼吁建立跨国、跨行业的协调机制，而不是要求停止AI的发展。

Google资深研究科学家Laura Weidinger指出，AI的能力更新已经进入按周甚至按天计算，而社会制度、法律法规、教育体系以及公众认知却仍然按照几年甚至十几年的节奏变化。技术和社会之间的时间差越来越大。Inherent首席科学家Edward Hughes引用技术史学家Melvin Kranzberg的观点表示，技术既不是好的也不是坏的，关键在于人类如何理解并使用它。问题在于，理解需要时间，而AI留给社会适应的时间越来越少。如果技术发展的速度持续远超治理能力，最终受到冲击的将是整个社会运行方式。

很多人看到这份声明后认为科学家们想让AI停下来，其实恰恰相反。他们提出的关键词是“控制节奏”。重点不是停止，而是同步。他们希望AI的能力提升速度与安全能力、治理体系以及社会适应能力保持一致。只有这样，AI才能真正成为推动文明进步的力量，而不是制造新的系统性风险。

历史上，每一次重大技术革命都带来了巨大机遇。AI很可能成为下一次改变人类文明的基础设施。正因为如此，它值得拥有比过去任何技术都更加成熟的治理体系。这1224位来自全球顶级AI实验室的研究者并没有反对技术进步，只是提醒世界：如果AI的能力增长速度远远快于人类社会的治理能力，那么最大的风险可能是人类在竞争中失去了控制发展的节奏。未来属于AI，这一点越来越不容置疑。真正值得思考的问题是，在人类不断加速奔向未来的路上，谁来握住那个决定速度的“控制旋钮”？

(责任编辑：0882)

关闭

科学家警告AI浏览器越聪明越危险 内部声音呼吁放慢脚步

相关新闻

今日热点

频道热点

科学家警告AI浏览器越聪明越危险内部声音呼吁放慢脚步