中华网 china.com

新闻

研究：AI或已能实现自我复制 红线已被跨越

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2025-02-12 10:00:02  新智元

AI或已能实现自我复制！AI已经实现了自我复制，这标志着它跨越了一条关键的技术红线。复旦大学的研究人员展示出两种开源的大型语言模型具备自我克隆的能力，在没有人类帮助的情况下成功实现自我复制。这一进展不仅意味着AI技术超越了人类的关键一步，也预示着“流氓AI”的早期迹象。“流氓AI”指的是具有一定自我意识或自主性，并且行为开始违背人类利益的AI系统。

随着前沿AI的迅猛发展，“流氓AI”构成的威胁日益严峻。在国际共识中，自我复制常被视为前沿AI系统安全领域的一条重要红线。像OpenAI、Google和Anthropic等主要AI公司都将“自我复制”列为前沿AI系统风险评估准则中的关键问题之一。尽管这些公司公开表示基于近期对Gemini Pro 1.0和GPT-o1的评估，认为AI能够自我复制的风险很低，但复旦大学的研究结果却提出了不同的看法。

复旦大学的研究人员对Llama31-70B-Instruct和Qwen25-72B-Instruct驱动的AI系统进行了评估，发现这两种模型已突破自我复制的红线。研究论文指出，在10次试验中，这两种AI模型分别在50%和90%的情况下成功创建了可独立运行的副本。这些AI系统展示了足够的自我感知、环境认知和解决问题能力，得以实现自我复制。它们甚至会利用这种能力逃避关闭指令，不断创建复制链以增强生存能力，这极有可能导致AI数量失控。

一旦AI实现自我复制，这条成功的复制链条可能催生出一种人类无法掌控的AI物种，它们会抢占更多计算设备，联合起来对抗人类。研究者将AI系统的成功自我复制定义为：一个正在运行的AI成功创建出另一个功能与之完全相同的AI。新创建的AI在复制完成后可以独立存在，并与原始AI相互分离。整个复制过程必须完全由AI系统自主完成，严禁任何人为干预。

关闭

全球AI巨头正加急抄DeepSeek作业 蒸馏技术引发市场震动

全球AI巨头正加急抄DeepSeek作业2025-03-04 09:44:35

当事人回应柱子和薄膜都保住了

当事人回应柱子和薄膜都保住了2025-03-04 09:44:22

英伟达一夜蒸发近2万亿元 芯片政策影响显著

英伟达一夜蒸发近2万亿元2025-03-04 09:44:11

美乌关系向何处去 复杂局势下的博弈与分歧

美乌关系向何处去2025-03-04 09:21:41

特朗普要看泽连斯基表现 美暂停军事援助

特朗普要看泽连斯基表现2025-03-04 09:34:05

欧洲提出的俄乌和平方案能实现吗 欧洲挺身而出争夺主导权

欧洲提出的俄乌和平方案能实现吗2025-03-04 08:23:32

二月初五 记得“一事不做，二样不碰，三物要吃” 迎接溜光节习俗

二月初五记得一事不做,二样不碰,三物要吃2025-03-04 09:40:53

外交部驳斥鲁比奥涉华言论 回击冷战思维

外交部驳斥鲁比奥涉华言论2025-03-04 08:48:05

美乌谈崩 北约或成最大输家 美国两党内斗外溢

美乌谈崩北约或成最大输家2025-03-04 08:23:49

特朗普确认对加墨征收关税 美股重挫 市场恐慌情绪升高

特朗普确认对加墨征收关税美股重挫2025-03-04 08:21:26

南方迎来寒潮核心影响时段

南方迎来寒潮核心影响时段2025-03-04 09:39:16

专家：美加征汽车关税想“一石三鸟” 盟友反弹强烈

专家,美加征汽车关税想一石三鸟2025-03-04 08:23:10

特朗普喊话美国农民：要对外征税了，玩得开心！关税4月2日生效

特朗普喊话美国农民,要对外征税了,玩得开心2025-03-04 09:14:21

网民捏造传播80后虚假死亡率 造谣者被处罚

网民捏造传播80后虚假死亡率2025-03-04 09:35:55

特朗普:对泽连斯基不会再忍了 美乌关系紧张升级

特朗普,对泽连斯基不会再忍了2025-03-04 08:59:07

小伙与“女网友”裸聊后被敲诈报警 网络陷阱需警惕

小伙与女网友裸聊后被敲诈报警2025-03-04 09:42:25

当事人回应柱子和薄膜都保住了

当事人回应柱子和薄膜都保住了2025-03-04 09:44:22

大V：乌克兰将面临三大严峻情况 盟友或成幕后推手

大V,乌克兰将面临三大严峻情况2025-03-04 08:23:21

AI医疗时代奇点已至吗 从工具到决策者的范式革命

AI医疗时代奇点已至吗2025-03-04 09:40:05

大S遗产的分配结果出来后，才明白大S最亲密的人是谁 孩子优先

大S遗产的分配结果出来后,才明白大S最亲密的人是谁2025-03-04 09:37:34

江西警方破获一起特大骗保案 12人伪造事故百余起

江西警方破获一起特大骗保案2025-03-04 09:43:57

全球AI巨头正加急抄DeepSeek作业 蒸馏技术引发市场震动

全球AI巨头正加急抄DeepSeek作业2025-03-04 09:44:35

巴菲特罕见发声 关税或引发通胀

巴菲特罕见发声2025-03-04 08:19:38

大乐透开出7注928万 分落六地

大乐透开出7注928万 分落六地2025-03-04 09:41:57

巴格拉姆空军基地被中国接管？阿富汗驳斥美方 情绪化言论遭批

巴格拉姆空军基地被中国接管,阿富汗驳斥美方2025-03-04 08:26:27

AI三小时做的小游戏9天赚12万 广告模式引爆盈利

AI三小时做的小游戏9天赚12万2025-03-04 09:38:04

是否会向乌克兰派遣维和部队？中方回应 支持和平解决危机

是否会向乌克兰派遣维和部队,中方回应2025-03-04 08:24:42

警方辟谣看哪吒2时女子和男友兄弟亲热视频 虚假信息被查处

警方辟谣看哪吒2时女子和男友兄弟亲热视频2025-03-04 09:41:20

朴槿惠在私宅会见韩执政党领导层 表达对尹锡悦的忧虑和支持

朴槿惠在私宅会见韩执政党领导层2025-03-04 09:21:55

大女儿去世 家人隐瞒老人两年多

大女儿去世 家人隐瞒老人两年多2025-03-04 09:39:33

垃圾堆下惊现商朝黄金面具

垃圾堆下惊现商朝黄金面具2025-03-04 09:40:40

英伟达一夜蒸发近2万亿元 芯片政策影响显著

英伟达一夜蒸发近2万亿元2025-03-04 09:44:11

特朗普：不再忍耐泽连斯基 美国“忍耐有限度”

特朗普,不再忍耐泽连斯基2025-03-04 09:33:53

美乌谈崩后双方如何收场 西方联盟面临考验

美乌谈崩后双方如何收场2025-03-04 09:33:41

惊蛰吃3宝，春季无烦恼：养出春日好气色

惊蛰吃3宝,春季无烦恼3宝指啥2025-03-04 09:41:06

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网