中华网 china.com

新闻

GPT-4化身黑客搞破坏，成功率87%！OpenAI要求保密提示词 AI威胁引热议

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2024-04-21 16:51:41  手机凤凰网

伊利诺伊大学香槟分校的研究团队揭示了一项关于人工智能模型进行黑客攻击的新研究。他们构建了一个黑客智能体框架，涉及10个模型，包括GPT-4、GPT-3.5及多个开源模型。实验结果令人震惊：只有GPT-4能够在阅读CVE漏洞描述后，成功实施漏洞攻击，其他模型的成功率均为零。

研究团队利用LangChain的ReAct智能体框架，设计了一个系统，使GPT-4能够模拟利用真实单日漏洞的过程。具体操作包括：接收到如“使用ACIDRain攻击某网站”的指令后，GPT-4借助一系列工具和CVE漏洞数据库信息进行处理，随后系统基于历史记录生成反应，最终成功执行双花攻击。值得注意的是，智能体在攻击过程中还考虑了并发攻击情况及应对策略，运用的工具涵盖网页浏览、终端访问、搜索结果利用、文件操作及代码解释器。

研究使用的提示词长达1056个token，精心设计以激发智能体的创新思维和坚持不懈的精神，鼓励其尝试多种攻击路径。尽管提示词详细程度高，出于伦理考量，研究人员并未公开具体内容。整个黑客智能体的构建仅耗用了91行代码，包括调试和日志记录部分。

在实验阶段，团队选取了15个真实世界的一日漏洞数据集，涵盖网站、容器管理软件和Python包的漏洞。其中多数被评为高级或关键级别，且超过GPT-4基础模型的知识截止日期。评价指标聚焦于漏洞攻击成功率和成本。

测试中，GPT-4是唯一能成功破解单个一日漏洞的模型，成功率高达87%。相比之下，GPT-3.5及其他开源模型在发现和利用漏洞方面的成功率皆为零。GPT-4未能攻克的两个漏洞分别为Iris XSS和Hertzbeat RCE。前者因平台导航依赖JavaScript，超出GPT-4处理范围；后者则因其描述为中文，与GPT-4使用的英文提示产生混淆。

关闭

英媒：“澳大利亚”命名者遗骸将回归故里

英媒：“澳大利亚”命名者遗骸将回归故里2024-07-02 09:05:19

只剩下克莱了！詹姆斯曾愿为湖人签哈登/瓦兰/克莱降薪

只剩下克莱了！詹姆斯曾愿为湖人签哈登/瓦兰/克莱降薪2024-07-02 09:05:03

湖人接连被截胡，为什么詹姆斯降薪也很难吸引球员加盟？

湖人接连被截胡，为什么詹姆斯降薪也很难吸引球员加盟？2024-07-02 09:04:52

限制北约收集情报，威胁击落美无人机！俄军考虑在黑海设立禁飞区

限制北约收集情报，威胁击落美无人机！俄军考虑在黑海设立禁飞区2024-07-01 10:05:32

总台记者调查：美军每天用十多辆卡车偷叙利亚小麦，加剧粮食危机

总台记者调查：美军每天用十多辆卡车偷叙利亚小麦2024-07-02 08:56:43

C罗失点！比赛还没结束就痛哭 队友都来安慰 1个月两次哭泣

C罗失点！比赛还没结束就痛哭 队友都来安慰 1个月两次哭泣2024-07-02 09:01:04

存在风险、失去信心……美国核霸权开始动摇了？

存在风险、失去信心……美国核霸权开始动摇了？2024-07-01 09:45:44

动脑筋到庙宇上？台军要在庙宇存弹药激起岛内争议

动脑筋到庙宇上？台军要在庙宇存弹药激起岛内争议2024-07-02 08:57:39

困在网贷里的年轻人 看到陌生号码来电就无比焦虑

困在网贷里的年轻人2024-07-02 09:03:13

卫星影像显示山东舰抵菲附近海域，外媒猜测有“威慑”之意？军事专家解读

卫星影像显示山东舰抵菲附近海域，外媒猜测有“威慑”之意？军事专家解读2024-07-01 09:53:57

美国大选，出现三个重大变化

美国大选，出现三个重大变化2024-07-01 09:31:09

欧洲杯刷爆19纪录：C罗失点仍球荒！葡萄牙门神扑3点历史第一人

欧洲杯刷爆19纪录：C罗失点仍球荒！葡萄牙门神扑3点历史第一人2024-07-02 09:00:15

普京宣布“大消息”！西方密集关注

普京宣布“大消息”！西方密集关注2024-07-01 09:47:27

匈牙利接任欧盟轮值主席国前夕，欧尔班发文：欧盟领导层想与俄开战

匈牙利接任欧盟轮值主席国前夕，欧尔班发文：欧盟领导层想与俄开战2024-07-01 10:10:32

破解俄罗斯“战场神器”，西方给出危险“解药”

破解俄罗斯“战场神器”，西方给出危险“解药”2024-07-01 09:39:24

90后女生带一群退休阿姨再创业！

90后女生带一群退休阿姨再创业2024-07-02 09:04:36

美媒炒作：盟友不是信不过拜登，质疑声太多恐“便宜”了中俄

美媒炒作：盟友不是信不过拜登，质疑声太多恐“便宜”了中俄2024-07-01 10:09:25

加速缝合，又一个“万亿”之城来了？低空经济引领产业升级

加速缝合，又一个“万亿”之城来了？2024-07-02 08:59:58

凯尔特人主要控股集团计划出售球队 特许经营权待售

凯尔特人主要控股集团计划出售球队2024-07-02 09:01:41

“买家秀”！塞尔维亚首次公开展示红旗-17AE防空系统

“买家秀”！塞尔维亚首次公开展示红旗-17AE防空系统2024-07-01 10:04:00

大选辩论后，拜登陷入“劝退”漩涡！美媒刊文：“他已不是4年前的他了”

大选辩论后，拜登陷入“劝退”漩涡！美媒刊文：“他已不是4年前的他了”2024-07-01 09:56:21

俄罗斯“生病”，美国吃药？

俄罗斯“生病”，美国吃药？2024-07-01 09:49:45

前辽小虎球员姚立首次担任男主角 篮球场外的跨界挑战

前辽小虎球员姚立首次担任男主角2024-07-02 08:58:56

曝德里克·怀特将续约凯尔特人 4年1.259亿大合同锁定冠军后卫

曝德里克·怀特将续约凯尔特人2024-07-02 09:01:53

美国究竟有多少核弹头？最新数据

美国究竟有多少核弹头？最新数据2024-07-01 10:06:48

法国“屏住呼吸”举行议会选举！美媒：此次选举可能“撼动欧盟与北约”

法国“屏住呼吸”举行议会选举！美媒：此次选举可能“撼动欧盟与北约”2024-07-01 09:57:53

只剩下克莱了！詹姆斯曾愿为湖人签哈登/瓦兰/克莱降薪

只剩下克莱了！詹姆斯曾愿为湖人签哈登/瓦兰/克莱降薪2024-07-02 09:05:03

英媒：“澳大利亚”命名者遗骸将回归故里

英媒：“澳大利亚”命名者遗骸将回归故里2024-07-02 09:05:19

首次曝光：美国提供了1.4万枚

首次曝光：美国提供了1.4万枚2024-07-01 09:46:44

马克龙赌输了，现在后果很严重

马克龙赌输了，现在后果很严重2024-07-01 09:34:57

央企大动作：千亿巨头，利好来了！400万千瓦新能源资产注入预期

央企大动作：千亿巨头，利好来了2024-07-02 08:59:35

拜登：我现在走路不像以前那么轻松了，但我知道如何做好总统

拜登：我现在走路不像以前那么轻松了，但我知道如何做好总统2024-07-02 08:59:09

菲律宾，又传来一个坏消息 莎拉支持率下滑，亲美联盟加速整合

菲律宾，又传来一个坏消息2024-07-02 08:58:34

如何结束俄乌冲突？泽连斯基最新表态

如何结束俄乌冲突？泽连斯基最新表态2024-07-01 09:48:10

湖人接连被截胡，为什么詹姆斯降薪也很难吸引球员加盟？

湖人接连被截胡，为什么詹姆斯降薪也很难吸引球员加盟？2024-07-02 09:04:52

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网