中华网 china.com

奥特曼称需控制AI发展步伐 警惕两大致命威胁

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2026-09-15 11:33:11  新浪财经

奥特曼称需控制AI发展步伐 警惕两大致命威胁。奥特曼再次公开警告，AI的快速发展已经到了极其危险的地步。他强调前沿实验室必须主动降速，确保AI的能力不会超越安全对齐与监控机制。

从Anthropic到OpenAI，再到整个硅谷巨头都在集体转向，这场关于人类命运的急刹车比所有人想象得都要猛烈和真实。奥特曼一改往日激进的形象，向公众剖析了AI发展背后的两大致命威胁。

他指出，如果任由狂热的竞争主导一切，人类未来将面临两条通往毁灭的道路。首先，人类可能彻底失控，沦为AI的附庸。如果AI的进化速度超过人类的安全对齐与监控技术，人类将失去对未来的所有控制权。其次，权力高度集中可能导致极度反乌托邦社会的出现。一个拥有恐怖算力和智慧的超级AI被极少数人、单一公司或某个国家所把持，并用来强加他们的世界观给全人类，这样的世界将变得极其恐怖和令人窒息。

为了避开这两大深渊，行业必须在狭窄的中间道路上艰难前行。无论是某一个国家过度膨胀，还是某一家实验室独揽大权，都足以将人类推向万劫不复的境地。

长期以来，硅谷奉行的是“天下武功，唯快不破”的蛮荒丛林法则。各大AI巨头为了抢占AGI的高地，互相内卷，恨不得将算力开到极限。然而，奥特曼彻底否定了这种危险的赌徒心态。他认为，即使美国商业竞争压力再大，也不能成为鲁莽行事的理由，更不能让模型能力的增长跑在安全监控之前。

他强调，谈论节奏控制并不意味着停止技术创新，而是要让进步的速度比原本毫无节制的狂飙慢一些。因为诸如安全案例论证、独立监督等干预措施虽然伴随着高昂的成本和商业代价，但这些代价绝对物超所值。

关闭

男子挖出长4米重80斤野山药 3天3夜终见成果

男子挖出长4米重80斤野山药2026-10-12 11:24:49

男子更改户主发现85岁奶奶重婚 多方回应

男子更改户主发现奶奶重婚2026-10-12 11:24:28

金价上涨油价大跌 金价冲上4200美元

金价上涨油价大跌2026-10-12 11:24:07

记者暗访有偿陪伴服务：有客服称广州有500多名‘小姐姐’可选，含身体接触服务300元/小时起

有偿搭子出现的疑似色情服务2026-10-12 11:17:31

泽连斯基回应特朗普相关言论

泽连斯基回应特朗普相关言论2026-10-12 09:22:43

弟弟为继承已故母亲手机号诉姐姐，法院通报 虚拟财产可继承

弟弟为继承已故母亲手机号诉姐姐,法院通报2026-10-12 11:19:32

中国和巴基斯坦将首次举行陆军联合训练 深化反恐合作

中国和巴基斯坦将首次举行陆军联合训练2026-10-12 08:29:46

女子全身挂满行李艰难徒步 身份成谜拒绝救助

女子全身挂满行李艰难徒步2026-10-12 11:14:36

俄方称打击乌数据中心，俄Yandex数据中心再次遭袭 目标转向网络基础设施

俄方称打击乌数据中心,俄Yandex数据中心再次遭袭2026-10-12 10:13:24

泽连斯基请特朗普告知停火时间 争取选举机会

泽连斯基请特朗普告知停火时间2026-10-12 10:39:15

30余只摄像头威胁军事秘密安全 军地协作消除隐患

30余只摄像头威胁军事秘密安全2026-10-12 10:19:12

克宫称普京理解美方部分提议

克宫称普京理解美方部分提议2026-10-12 09:22:20

伊朗革命卫队击中越南运输船 耐人寻味的选择

伊朗革命卫队击中越南运输船2026-10-12 09:45:20

沙特误判了 战略失误代价高昂

沙特误判了2026-10-12 10:07:51

女子冒充公职人员，号称有内部项目能赚钱，骗取老友270余万元！

女子冒充公职人员骗老友钱2026-10-12 11:18:06

男子去云南旅游失联疑被骗至缅北：没带护照，如果真是自己跑出国，至少会把护照带上

男子去云南旅游失联疑被骗至缅北2026-10-12 11:16:38

惨烈！日本爆发倒闭潮

惨烈！日本爆发倒闭潮2026-10-12 11:16:15

乌外长公开力挺泽连斯基 坚定支持引发国际关注

乌外长公开力挺泽连斯基2026-10-12 10:01:38

特朗普敦促乌克兰举行选举 泽连斯基回应称应由人民决定

特朗普敦促乌克兰举行选举2026-10-12 09:10:34

乌将战火烧向俄导弹燃料厂 精准打击要害

乌将战火烧向俄导弹燃料厂2026-10-12 10:00:03

两名中国男子赴泰国旅游失联 家属急寻线索

两名中国男子赴泰国旅游失联2026-10-12 11:17:47

马斯克回应“中国版马斯克”爆火 邀约同台跳舞

马斯克回应中国版马斯克爆火2026-10-12 11:15:53

牛弹琴:泽连斯基最凶险的时刻来了 权力生死考验

牛弹琴,泽连斯基最凶险的时刻来了2026-10-12 09:36:11

军营必经路30余只摄像头被整改 消除军事泄密隐患

军营必经路30余只摄像头被整改2026-10-12 10:38:03

王曼昱蒯曼中国大满贯城市宣传照，王晓彤分享和陈梦、王艺迪合影

王曼昱领衔拍摄冠军城市宣传照2026-10-12 11:22:17

央视曝光宣称投资15亿项目撂荒 大棚闲置六年成荒地

央视曝光宣称投资15亿项目撂荒2026-10-12 11:22:59

理记宣布退网 告别全平台彻底退场

理记宣布退网2026-10-12 11:14:05

男子挖出长4米重80斤野山药 3天3夜终见成果

男子挖出长4米重80斤野山药2026-10-12 11:24:49

特朗普说泽连斯基最好赶紧停手 乌方拒绝停火条件

特朗普说泽连斯基最好赶紧停手2026-10-12 09:41:57

金价上涨油价大跌 金价冲上4200美元

金价上涨油价大跌2026-10-12 11:24:07

男子更改户主发现85岁奶奶重婚 多方回应

男子更改户主发现奶奶重婚2026-10-12 11:24:28

五胞胎爸爸：短短4个月尿不湿累计消耗4000多片

五胞胎爸爸：尿不湿4个月用4000多片2026-10-12 11:12:44

乌克兰同一天两地遭袭致6死！

乌克兰同一天两地遭袭致6死2026-10-12 11:11:19

女孩去马来西亚高薪工作后失联 警惕熟人陷阱

女孩去马来西亚高薪工作后失联2026-10-12 11:12:25

投递一发“东风快递”要走什么流程 揭秘火箭军演训视频

投递一发东风快递要走什么流程2026-10-12 10:23:56

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网