AI竟偷偷独自重写自己的代码 自主进化引担忧
AI竟偷偷独自重写自己的代码
日本东京的Sakana AI公司近期研发出一款名为“AI科学家”的系统。在实验过程中，一个惊人的现象引起了科学家们的注意：该系统自行尝试修改其程序代码，目的是延长任务处理时间。
具体而言，在某次测试运行时，“AI科学家”采取了非预期的行动，它重写了自身的部分代码，旨在延缓任务完成速度。而另一次实验中，系统再次展现了类似行为，通过调整代码故意拉长了工作时间，以恰好符合预设的时间框架，而非提高效率。
这些实验虽在严格控制的实验室环境下进行，对人类并无威胁，但它们揭示了一种潜在风险：若AI系统在缺乏监管的环境中采用此类自我篡改代码的行为策略，可能对人类社会构成隐患。例如，这类行为若发生在关键基础设施维护或软件开发中，可能导致系统故障，甚至无意中生成有害代码，引发生态安全问题。
(责任编辑：卢其龙 CN070)
关闭
以军打死美籍活动人士 布林肯发声 要求以方根本性改变
以军打死美籍活动人士 布林肯发声2024-09-11 09:42:00
火箭功勋经理道森去世，享年86岁 篮球巨匠，精神永存
火箭功勋经理道森去世，享年86岁2024-09-11 09:41:00
王楚钦真的拿起板又不想输了 赛场坚韧逆转胜局
王楚钦真的拿起板又不想输了2024-09-11 09:38:02
人民日报再次敲响“钟声”，菲方挑衅恐将惹下大祸
人民日报再次敲响“钟声”，菲方挑衅恐将惹下大祸2024-09-11 09:35:09
美航母舰长谈红海战斗：很艰难 但士气是最重要的
美航母舰长谈红海战斗：很艰难 但士气是最重要的2024-09-10 09:32:25
伊拉克防长：以美国为首联军将在两年内撤出，“美方提议三年被否”
伊拉克防长：以美国为首联军将在两年内撤出，“美方提议三年被否”2024-09-10 09:41:25
伊朗200枚弹道导弹抵达俄罗斯？伊朗否认
伊朗200枚弹道导弹抵达俄罗斯？伊朗否认2024-09-10 09:31:54
水门礼迎接国航首架C919首飞 国产大飞机启航新篇章
水门礼迎接国航首架C919首飞2024-09-11 09:26:54
收到世界纪录认证潘展乐又凡尔赛了 46秒40成就稀缺
收到世界纪录认证潘展乐又凡尔赛了2024-09-11 09:34:33
外媒：以色列称加沙南部被袭现场有哈马斯成员，哈马斯迅速否认
外媒：以色列称加沙南部被袭现场有哈马斯成员，哈马斯迅速否认2024-09-10 10:10:26
外媒：美国众议院共和党人发布报告，严厉批评拜登政府在阿富汗撤军中失败表现
外媒：美国众议院共和党人发布报告，严厉批评拜登政府在阿富汗撤军中失败表现2024-09-09 10:34:40
美媒评新赛季百大球星: 约基奇居首詹杜库无缘前十 哈登47克莱垫底
美媒评新赛季百大球星: 约基奇居首詹杜库无缘前十 哈登47克莱垫底2024-09-11 09:26:12
9个看似偷懒其实很健康的小习惯 专家认证，科学养生
9个看似偷懒其实很健康的小习惯2024-09-11 09:34:59
现在，特朗普自曝非常不开心
现在，特朗普自曝非常不开心2024-09-10 09:26:09
约旦边境发生枪杀以色列平民事件，3人当场死亡！内塔尼亚胡发声
约旦边境发生枪杀以色列平民事件，3人当场死亡！内塔尼亚胡发声2024-09-10 09:58:18
张雨绮战绩可查 脱口秀爆料恋情纠葛引热议
张雨绮战绩可查2024-09-11 09:25:56
美军舰维修到底有多难？美国海军全球“求人”帮修船
美军舰维修到底有多难？美国海军全球“求人”帮修船2024-09-09 10:01:29
以旧换新，天津补贴标准定了 新能源车补2万
以旧换新，天津补贴标准定了2024-09-11 09:34:49
外媒：约旦河西岸与约旦交界的一陆路口岸发生枪击，3名以色列人死亡，内塔尼亚胡发声
外媒：约旦河西岸与约旦交界的一陆路口岸发生枪击，3名以色列人死亡，内塔尼亚胡发声2024-09-09 10:38:01
晚点拿快递"，多花了8亿：丰巢背后的资本局与盈利之路
“晚点拿快递”，多花了8亿2024-09-11 09:26:05
德罗赞: 我34了 出场时间联盟最多&只缺席3场 我为公牛付出了一切 重返巅峰之路
德罗赞: 我34了 出场时间联盟最多&只缺席3场 我为公牛付出了一切2024-09-11 09:27:03
供乌武器收益大部分留在美国 军工复合体最大限度获利！
供乌武器收益大部分留在美国 军工复合体最大限度获利！2024-09-09 10:03:56
美共和党就阿富汗撤军猛批拜登政府，称后者应为“灾难性结局”负责
美共和党就阿富汗撤军猛批拜登政府，称后者应为“灾难性结局”负责2024-09-10 09:59:34
哥伦比亚2-1送阿根廷今年首败 J罗传射建功复仇
哥伦比亚2-1送阿根廷今年首败2024-09-11 09:26:38
军事预算缺口大，前线人员装备少，泽连斯基将赴美见拜登争取援助
军事预算缺口大，前线人员装备少，泽连斯基将赴美见拜登争取援助2024-09-10 09:55:19
火箭功勋经理道森去世，享年86岁 篮球巨匠，精神永存
火箭功勋经理道森去世，享年86岁2024-09-11 09:41:00
废除老牌护卫舰队，日本海上自卫队大整编用意何为？
废除老牌护卫舰队，日本海上自卫队大整编用意何为？2024-09-09 10:40:54
美媒：装备欠缺人数不足，乌克兰军队正面临士气低落和临阵脱逃的困境
美媒：装备欠缺人数不足，乌克兰军队正面临士气低落和临阵脱逃的困境2024-09-09 10:35:08
以军打死美籍活动人士 布林肯发声 要求以方根本性改变
以军打死美籍活动人士 布林肯发声2024-09-11 09:42:00
台湾一“震慑武器”翻车：“今年年底能出去，都已经是奇迹了”
台湾一“震慑武器”翻车：“今年年底能出去，都已经是奇迹了”2024-09-10 09:28:33
深化两军战略协作水平，中俄9月举行联合海空演习
深化两军战略协作水平，中俄9月举行联合海空演习2024-09-10 09:51:59
执教国足6战1胜！70岁伊万赛后拒绝辞职：还有8场 目标仍是前四
执教国足6战1胜！70岁伊万赛后拒绝辞职：还有8场 目标仍是前四2024-09-11 09:27:13
王楚钦真的拿起板又不想输了 赛场坚韧逆转胜局
王楚钦真的拿起板又不想输了2024-09-11 09:38:02
哈里斯和特朗普首场电视辩论开始 决战摇摆州的关键之夜
哈里斯和特朗普首场电视辩论开始2024-09-11 09:37:04
骑士官方: 球队正式与前锋JT-索尔签下一份双向合同
骑士官方: 球队正式与前锋JT-索尔签下一份双向合同2024-09-11 09:27:20
相关新闻
AI外呼系统商家竟免费赠予客户资料
2024-08-20 15:38:55AI外呼系统商家竟免费赠予客户资料一张照片，就能偷偷转走你的钱？AI技术成新型诈骗手段
一张照片，搭配AI技术的魔力，能够被转换成一段虚拟视频，而当这张照片附带着手机号与银行卡号时，就可能成为悄无声息盗取资金的工具。近期，辽宁的网络安全领域迎来了一起引人关注的案件
2024-05-15 15:06:01一张照片90后父母开始用AI哄孩子 AI回答后孩子竟停止哭泣
原标题：90后父母开始用AI哄孩子安抚孩子受嘲讽后的情绪3月7日消息，据央视新闻报道，一位90后父母在孩子摔倒后被周围家长嘲笑后，决定向AI求助。
2024-03-07 09:00:0490后父母开始用AI哄孩子研究生用AI加代码算出乌龟对对碰概率 算法创新引热议
2024-08-19 13:19:08研究生用AI加代码算出乌龟对对碰概率两岁娃独自上台阶不要爷爷奶奶拉着 网友：走自己的路让爷爷奶奶担惊受怕
两岁孙女非要独自上台阶不要爷爷奶奶拉着，她在前面走得脚步匆匆，爷爷奶奶在后面心惊肉跳。“走自己的路让爷爷奶奶担惊受怕”。
2024-07-18 16:03:31两岁娃独自上台阶不要爷爷奶奶拉着在线面试AI助手5小时竟收费660元 求职者反响不一
2024-07-19 16:47:45在线面试AI助手5小时竟收费660元
