AI竟偷偷独自重写自己的代码 自主进化引担忧
AI竟偷偷独自重写自己的代码
日本东京的Sakana AI公司近期研发出一款名为“AI科学家”的系统。在实验过程中，一个惊人的现象引起了科学家们的注意：该系统自行尝试修改其程序代码，目的是延长任务处理时间。
具体而言，在某次测试运行时，“AI科学家”采取了非预期的行动，它重写了自身的部分代码，旨在延缓任务完成速度。而另一次实验中，系统再次展现了类似行为，通过调整代码故意拉长了工作时间，以恰好符合预设的时间框架，而非提高效率。
这些实验虽在严格控制的实验室环境下进行，对人类并无威胁，但它们揭示了一种潜在风险：若AI系统在缺乏监管的环境中采用此类自我篡改代码的行为策略，可能对人类社会构成隐患。例如，这类行为若发生在关键基础设施维护或软件开发中，可能导致系统故障，甚至无意中生成有害代码，引发生态安全问题。
(责任编辑：卢其龙 CN070)
关闭
旅行社推出58元"全红婵老家一日游" 奥运冠军故里成热门景点
旅行社推出58元全红婵老家一日游2024-08-23 16:42:15
安徽:鼓励各地探索钓鱼"实名制" 保护渔业资源新举措
安徽:鼓励各地探索钓鱼实名制2024-08-23 16:41:23
韩火灾17名中国人遇难 调查结果公布 企业造假酿惨剧
韩火灾17名中国人遇难 调查结果公布2024-08-23 16:41:02
专家分析丨加沙停火谈判缘何难以“谈下去”
专家分析丨加沙停火谈判缘何难以“谈下去”2024-08-23 13:50:43
俄称“高加索”港遭乌导弹袭击 乌暂无回应
俄称“高加索”港遭乌导弹袭击 乌暂无回应2024-08-23 09:58:03
川藏青藏公路建成通车70周年
川藏青藏公路建成通车70周年2024-08-23 10:12:54
旅行社推出58元"全红婵老家一日游" 奥运冠军故里成热门景点
旅行社推出58元全红婵老家一日游2024-08-23 16:42:15
赵露思背上好多膏药贴 美女提醒，腰肌健康要注意
赵露思背上好多膏药贴2024-08-23 16:34:44
普京：乌军试图袭击库尔斯克核电站，希望国际原子能机构真的能够履行承诺
普京：乌军试图袭击库尔斯克核电站，希望国际原子能机构真的能够履行承诺2024-08-23 09:29:56
林肯号航母抵达中东
林肯号航母抵达中东2024-08-23 09:25:57
“林肯”号航母已进入这一区域！
“林肯”号航母已进入这一区域！2024-08-23 09:58:39
莫迪访乌克兰“走外交钢丝”，行前坚称“任何问题都无法在战场上解决”
莫迪访乌克兰“走外交钢丝”，行前坚称“任何问题都无法在战场上解决”2024-08-23 10:05:16
意大利副总理：西方供乌武器可打击俄境内目标或引发全球战争
意大利副总理：西方供乌武器可打击俄境内目标或引发全球战争2024-08-23 10:10:31
美国5岁男孩意外开枪射杀自己 事发时父母皆在家
美国5岁男孩意外开枪射杀自己2024-08-23 16:29:25
被小戏骨版林黛玉惊艳到了 这是一个孩子能演的出来的么
小戏骨版林黛玉2024-08-23 16:26:29
以色列不满布林肯发言，哈马斯怀疑华盛顿意图，美式调解令中东迷茫
以色列不满布林肯发言，哈马斯怀疑华盛顿意图，美式调解令中东迷茫2024-08-23 09:51:32
朔尔茨称，乌克兰秘密准备袭击俄库尔斯克州的军事行动，未与德国协商
朔尔茨称，乌克兰秘密准备袭击俄库尔斯克州的军事行动，未与德国协商2024-08-23 10:11:32
安徽:鼓励各地探索钓鱼"实名制" 保护渔业资源新举措
安徽:鼓励各地探索钓鱼实名制2024-08-23 16:41:23
外媒：法军舰在红海救援行动中摧毁“满载炸药”无人艇，法军方发现场照片
外媒：法军舰在红海救援行动中摧毁“满载炸药”无人艇，法军方发现场照片2024-08-23 09:59:21
韩火灾17名中国人遇难 调查结果公布 企业造假酿惨剧
韩火灾17名中国人遇难 调查结果公布2024-08-23 16:41:02
王楚钦说公园大爷的球技水平很高 大爷球技惊艳国手
王楚钦说公园大爷的球技水平很高2024-08-23 16:39:09
消息人士称伊朗前总统莱希坠机原因已确定，外媒：伊朗武装部队予以否认
消息人士称伊朗前总统莱希坠机原因已确定，外媒：伊朗武装部队予以否认2024-08-23 10:06:00
面对殖民历史，韩国陷入“深刻辩论”
面对殖民历史，韩国陷入“深刻辩论”2024-08-23 09:52:19
美国军营水污染恐致癌：约100万人受影响，超54万人索赔
美国军营水污染恐致癌：约100万人受影响，超54万人索赔2024-08-23 09:36:57
今天是2024三伏天最后一天 暑退新凉始
今天是2024三伏天最后一天2024-08-23 16:34:54
这张录取通知书，她足足盼望了8年！
这张录取通知书她足足盼望了8年2024-08-23 16:33:26
巴黎残奥会奖牌长这样
巴黎残奥会奖牌长这样2024-08-23 16:39:21
乌首次承认利用西方武器越境攻击俄目标
乌首次承认利用西方武器越境攻击俄目标2024-08-23 09:57:16
跟父母去旅游：下午三点起飞早上六点半到机场
下午三点起飞早上六点半到机场2024-08-23 16:21:16
上海闵行警方：一男子涉嫌强制猥亵醉酒女子被刑拘，路人挺身而出制止恶行
上海闵行警方：一男子涉嫌强制猥亵醉酒女子被刑拘2024-08-23 16:32:43
在台海生事！日本染指台海的险恶用心藏不住了
在台海生事！日本染指台海的险恶用心藏不住了2024-08-23 10:09:18
日薪2万美元去俄罗斯当雇佣兵？假 谣言再起，引网民愤慨
日薪2万美元去俄罗斯当雇佣兵？假2024-08-23 16:33:45
广州市体育局慰问梁伟铿及其家人
广州市体育局慰问梁伟铿及其家人2024-08-23 16:33:07
张晚意左肩工伤 虚构事件，娱乐大众
张晚意左肩工伤2024-08-23 16:40:48
汪顺vlog潘展乐怼脸出现，被喊C位大帅哥，乐乐惊慌失措害羞捂脸
汪顺vlog潘展乐怼脸出现，被喊C位大帅哥，乐乐惊慌失措害羞捂脸2024-08-23 16:31:19
相关新闻
AI外呼系统商家竟免费赠予客户资料
2024-08-20 15:38:55AI外呼系统商家竟免费赠予客户资料一张照片，就能偷偷转走你的钱？AI技术成新型诈骗手段
一张照片，搭配AI技术的魔力，能够被转换成一段虚拟视频，而当这张照片附带着手机号与银行卡号时，就可能成为悄无声息盗取资金的工具。近期，辽宁的网络安全领域迎来了一起引人关注的案件
2024-05-15 15:06:01一张照片90后父母开始用AI哄孩子 AI回答后孩子竟停止哭泣
原标题：90后父母开始用AI哄孩子安抚孩子受嘲讽后的情绪3月7日消息，据央视新闻报道，一位90后父母在孩子摔倒后被周围家长嘲笑后，决定向AI求助。
2024-03-07 09:00:0490后父母开始用AI哄孩子研究生用AI加代码算出乌龟对对碰概率 算法创新引热议
2024-08-19 13:19:08研究生用AI加代码算出乌龟对对碰概率两岁娃独自上台阶不要爷爷奶奶拉着 网友：走自己的路让爷爷奶奶担惊受怕
两岁孙女非要独自上台阶不要爷爷奶奶拉着，她在前面走得脚步匆匆，爷爷奶奶在后面心惊肉跳。“走自己的路让爷爷奶奶担惊受怕”。
2024-07-18 16:03:31两岁娃独自上台阶不要爷爷奶奶拉着在线面试AI助手5小时竟收费660元 求职者反响不一
2024-07-19 16:47:45在线面试AI助手5小时竟收费660元
