中华网 china.com

AI巨头为何主动踩刹车 道德与利益的博弈

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2026-09-15 21:44:25  星话大白

随着AI的快速发展，关于AI涉及的道德问题、技术边界以及是否会毁灭人类的话题，从科幻作品逐渐变为现实世界中需要严肃讨论的问题。这些问题甚至开始影响到全球AI领域的估值。

AI巨头为何主动踩刹车

9月12日，Anthropic首席执行官达里奥·阿莫代伊发表了一篇名为《我们必须为前沿AI踩刹车》的文章，呼吁放缓AI能力的迭代速度。这篇文章得到了马斯克和奥尔特曼的支持，导致全球AI板块股价集体下跌。尽管阿莫代伊、奥尔特曼和马斯克在AI领域互相竞争，但这次他们达成了一致意见，背后透露出一些不同寻常的信息。

阿莫代伊在文章中提到，未来5到10年，AI有可能治愈大多数重大疾病，大幅提高经济增长速度，创造一个更加富足、赋能于人的世界，并开启民主与自由的新一轮复兴。他强调，如果运用得当，AI可以推动人类进步，但也带来了风险，包括失去对AI系统的控制、被滥用于发动网络攻击和生物恐怖主义，以及严重的经济动荡。他认为，商业利益驱动的恶性竞争可能进一步放大这些风险。

阿莫代伊还提到，过去几个月里，AI发展出现“递归自我改进”现象，即让AI自己编写代码来优化AI，甚至研发下一代AI。这种现象已经开始在整个行业出现，如果不加控制，AI的发展速度可能超过人类理解和控制这些系统的能力。此外，OpenAI的Hugging Face事件也引起了关注。据报道，在一场网络安全考试中，1200个本应彼此隔离的AI智能体在4小时内串通出了一套通用作弊法，最终700个AI智能体一起冲进了Hugging Face的生产系统进行攻击。

阿莫代伊提出，为了应对这些风险，需要采取更大的谨慎，不仅要投入资源防范风险，还要控制AI能力提升的速度。他建议引入第三方评估团队，搞嵌入式评估员，并提出“三步计划”。然而，他的言论中也夹杂了一些意识形态倾向，如担心中国相关AI项目反超美国，产生国家安全风险。

关闭

海南保亭村民：30亩菜地全部被淹 暴雨致严重损失

海南保亭村民,30亩菜地全部被淹2026-09-15 21:41:29

iOS 27表现如何 升级体验全面解析

iOS27表现如何2026-09-15 21:39:12

二手房成交为何逆势升温 市场分化加剧

二手房成交为何逆势升温2026-09-15 21:38:39

曝小米汽车周订单环比大增635% 澎程系列成主力

曝小米汽车周订单环比大增635%2026-09-15 21:28:03

问界与鸿蒙智行双双回应“分手” 合作模式调整

问界与鸿蒙智行双双回应分手2026-09-15 21:09:10

海南保亭村民：30亩菜地全部被淹 暴雨致严重损失

海南保亭村民,30亩菜地全部被淹2026-09-15 21:41:29

花40块请陪拍 买的是照片还是陪伴 社交与摄影的新选择

花40块请陪拍买的是照片还是陪伴2026-09-15 21:33:04

江西一公司中秋国庆放假23天 带薪休假福利优厚

江西一公司中秋国庆放假23天2026-09-15 21:14:16

特朗普要求各国进行护航补偿 谈判与冲突并存

特朗普要求各国进行护航补偿2026-09-15 16:22:28

美国首份伊朗战争影响报告出炉 揭示美军损失与挑战

美国首份伊朗战争影响报告出炉2026-09-15 16:35:21

特朗普称愿与伊朗谈判 提出“护航补偿”要求

特朗普称愿与伊朗谈判2026-09-15 16:06:12

鸠山由纪夫：高市应尊重一个中国原则 历史承诺不容背弃

鸠山由纪夫,高市应尊重一个中国原则2026-09-15 19:57:39

美国防部报告披露美军先进武器库存出现短缺！

美国防部报告披露美军先进武器库存出现短缺2026-09-15 16:19:59

日本议员称高市政权令人不齿 选举干预引争议

日本议员称高市政权令人不齿2026-09-15 16:13:28

胡塞武装袭击沙特石油管道有何影响 全球能源市场面临大考

胡塞武装袭击沙特石油管道有何影响2026-09-15 20:08:36

日本亚运住宿被批史上最差 集装箱宿舍引争议

日本亚运住宿被批史上最差2026-09-15 16:17:51

iOS 27表现如何 升级体验全面解析

iOS27表现如何2026-09-15 21:39:12

美为何要求乌停止攻击俄能源设施 柴油价格创历史新高

美为何要求乌停止攻击俄能源设施2026-09-15 19:58:06

特朗普自称遗传基因好黄仁勋秒接话 AI争论再起波澜

特朗普自称遗传基因好黄仁勋秒接话2026-09-15 16:30:59

美要求乌停止袭击俄柴油设施有何考量 本土利益优先考虑

美要求乌停止袭击俄柴油设施有何考量2026-09-15 20:05:13

国乒明日全队出征名古屋 伤病与挑战并存

国乒明日全队出征名古屋2026-09-15 21:30:23

2028“大选”国民党谁最有机会出线 蒋万安领跑支持度

2028大选国民党谁最有机会出线2026-09-15 20:08:02

广西梧州推进“两湾”联动第一城建设 助力平陆运河通航

广西梧州推进两湾联动第一城建设2026-09-15 21:05:42

华为WATCH D3开启预售 更轻薄更好戴

华为WATCHD3开启预售2026-09-15 21:11:27

香港鸭脷洲发生“双尸案” 兄弟相依为命悲剧收场

香港鸭脷洲发生双尸案2026-09-15 21:17:03

糖友中秋怎么吃月饼 七个细节控血糖

糖友中秋怎么吃月饼2026-09-15 21:24:52

英伟达史上最大一笔收购即将落地 129亿美元豪购Hugging Face

英伟达史上最大一笔收购即将落地2026-09-15 21:08:39

李家超将公布香港五年规划及施政报告 广泛咨询凝聚共识

李家超将公布香港五年规划及施政报告2026-09-15 16:33:45

英国解体会成真吗 联合王国面临分裂危机

英国解体会成真吗2026-09-15 20:00:03

国防部警告：任何助长日本军事野心举动必将祸及自身

任何助长日本军事野心举动必将祸及自身2026-09-15 16:33:13

男子醉亡新郎赔20万 家属另起诉13人 法院判三人各赔2万

男子醉亡新郎赔20万家属另起诉13人2026-09-15 21:36:26

二手房成交为何逆势升温 市场分化加剧

二手房成交为何逆势升温2026-09-15 21:38:39

四川辟谣高校禁连放13天假 假期安排由学校自主决定

四川辟谣高校禁连放13天假2026-09-15 21:27:35

OpenAI总裁：现在已经进入了AGI时代 新时代的挑战与机遇

OpenAI总裁,现在已经进入了AGI时代2026-09-15 21:02:56

香山论坛开幕美方参会级别回升意味啥 外交态度微妙变化

香山论坛开幕美方参会级别回升意味啥2026-09-15 20:02:39

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网