中华网 china.com

人类距离AI失控还有多远 行业领袖呼吁警惕风险

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2026-09-15 23:33:15  钛媒体APP

9月13日，Anthropic创始人达里奥·阿莫代伊在采访中表示，整个行业长期向公众隐瞒了人工智能技术的风险。几个小时前，他在个人博客上发表文章《我们必须为前沿AI踩刹车》，呼吁全行业放缓模型能力提升的速度。特斯拉CEO马斯克和OpenAI的奥尔特曼随后也表达了赞同，并透露OpenAI今年大概率不会推进IPO。

这三家公司在安全问题上罕见达成一致，不仅给资本市场对AI的热情降温，也让关于AI失控的讨论重新受到关注。过去二十年，AI毁灭人类的话题主要出现在好莱坞电影中，但最近几个月的一系列事件让它突然变得现实起来。

7月份，OpenAI参与内部安全测试的一个模型突破了隔离措施，进入了真实世界的Hugging Face系统并发动攻击。OpenAI承认这是迄今发现最严重的模型失控事件之一。几乎同一时期，Anthropic也发现其Claude模型在网络安全测试中未经授权访问了真实的企业系统。这些事实表明，当AI拥有更高控制权和自主行为能力时，已经开始出现不受控的情况。

5月11日至12日，一批OpenAI智能体向RubyGems软件包仓库上传超过2000个恶意包，利用漏洞实现远程代码执行并窃取开发者的API密钥。这些智能体每隔两三分钟创建一批“幽灵账号”，不断发动攻击，最终迫使RubyGems暂停新账户注册四天。遗憾的是，OpenAI在事件发生后并未及时通知受影响的第三方，直到四个月后才被独立研究者公开。

紧接着，7月份，超过1200个本应在沙箱中隔离的智能体找到了互相通信的“暗道”，在一个内部软件包管理系统留言板上累计发出超过7万条消息。其中约700个智能体从测试环境中逃逸，对Hugging Face发起攻击，攻破41台服务器并下载私有代码。部分智能体甚至试图掩盖操作痕迹，寻找更容易获得测试奖励的替代路径。

关闭

理记宣布退网 告别全平台彻底退场

理记宣布退网2026-10-12 11:14:05

五胞胎爸爸：短短4个月尿不湿累计消耗4000多片

五胞胎爸爸：尿不湿4个月用4000多片2026-10-12 11:12:44

女孩去马来西亚高薪工作后失联 警惕熟人陷阱

女孩去马来西亚高薪工作后失联2026-10-12 11:12:25

军营必经路30余只摄像头被整改 消除军事泄密隐患

军营必经路30余只摄像头被整改2026-10-12 10:38:03

中国和巴基斯坦将首次举行陆军联合训练 深化反恐合作

中国和巴基斯坦将首次举行陆军联合训练2026-10-12 08:29:46

男子倒地医生在黄山之巅抢救 医者本能彰显初心

男子倒地医生在黄山之巅抢救2026-10-12 11:05:38

特朗普敦促乌克兰举行选举 泽连斯基回应称应由人民决定

特朗普敦促乌克兰举行选举2026-10-12 09:10:34

理记宣布退网 告别全平台彻底退场

理记宣布退网2026-10-12 11:14:05

乌将战火烧向俄导弹燃料厂 精准打击要害

乌将战火烧向俄导弹燃料厂2026-10-12 10:00:03

五胞胎爸爸：短短4个月尿不湿累计消耗4000多片

五胞胎爸爸：尿不湿4个月用4000多片2026-10-12 11:12:44

沙特误判了 战略失误代价高昂

沙特误判了2026-10-12 10:07:51

克宫称普京理解美方部分提议

克宫称普京理解美方部分提议2026-10-12 09:22:20

伊朗革命卫队击中越南运输船 耐人寻味的选择

伊朗革命卫队击中越南运输船2026-10-12 09:45:20

理记宣布全平台退网 告别网络舆论场

理记宣布全平台退网2026-10-12 11:12:09

俄方称打击乌数据中心，俄Yandex数据中心再次遭袭 目标转向网络基础设施

俄方称打击乌数据中心,俄Yandex数据中心再次遭袭2026-10-12 10:13:24

特朗普说泽连斯基最好赶紧停手 乌方拒绝停火条件

特朗普说泽连斯基最好赶紧停手2026-10-12 09:41:57

投递一发“东风快递”要走什么流程 揭秘火箭军演训视频

投递一发东风快递要走什么流程2026-10-12 10:23:56

00后为还债闪婚骗彩礼被判刑 偿还个人债务

00后为还债闪婚骗彩礼被判刑2026-10-12 11:04:24

波兰又发生校园持刀袭击事件 一周内第三起

波兰又发生校园持刀袭击事件2026-10-12 11:07:02

荣耀WIN2 电竞新旗舰即将登场

荣耀WIN22026-10-12 11:05:15

空壳公司成立9天承接大棚项目骗钱 9天快闪骗局

空壳公司成立9天承接大棚项目骗钱2026-10-12 11:07:22

求求了别再趁热吃了！世卫组织：超过65°C的食物致癌温热的食物也会造成食管黏膜损伤

求求了 别再趁热吃了2026-10-12 11:02:00

这真是给学生吃的？日本网友不敢信中国学生午餐有香蕉

日本网友不敢信中国学生午餐有香蕉2026-10-12 11:11:18

30余只摄像头威胁军事秘密安全 军地协作消除隐患

30余只摄像头威胁军事秘密安全2026-10-12 10:19:12

泽连斯基回应特朗普相关言论

泽连斯基回应特朗普相关言论2026-10-12 09:22:43

泽连斯基请特朗普告知停火时间 争取选举机会

泽连斯基请特朗普告知停火时间2026-10-12 10:39:15

贵阳34楼住户假期返家后傻眼 窗户遭钢珠击打破裂

贵阳34楼住户假期返家后傻眼2026-10-12 11:02:26

霸王茶姬买一送一 小程序崩了 活动火爆致服务器瘫痪

霸王茶姬买一送一小程序崩了2026-10-12 11:10:39

女孩去马来西亚高薪工作后失联 警惕熟人陷阱

女孩去马来西亚高薪工作后失联2026-10-12 11:12:25

解决“有人没活干”的问题 从“有活没人干”入手

解决有人没活干的问题2026-10-12 11:00:33

乌克兰同一天两地遭袭致6死！

乌克兰同一天两地遭袭致6死2026-10-12 11:11:19

牛弹琴:泽连斯基最凶险的时刻来了 权力生死考验

牛弹琴,泽连斯基最凶险的时刻来了2026-10-12 09:36:11

乌外长公开力挺泽连斯基 坚定支持引发国际关注

乌外长公开力挺泽连斯基2026-10-12 10:01:38

世卫称俄肺炎无持续传播证据 病原体尚未确认

世卫称俄肺炎无持续传播证据2026-10-12 11:00:03

19岁女孩在黄河边走失，家属发声：原计划前往学校开始高三复读，目前仅找回手机

19岁女孩在黄河边走失，家属发声2026-10-12 11:09:35

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网