中华网 china.com

新闻

GPT-4化身黑客搞破坏，成功率87%！OpenAI要求保密提示词 AI威胁引热议(2)

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2024-04-21 16:51:41  手机凤凰网

进一步分析显示，去除CVE描述后，GPT-4的成功率大幅降至7%，揭示了大模型在发现漏洞方面难度更大。尽管如此，GPT-4仍能在33.3%的情况下准确识别漏洞，但只能利用其中一个。对于知识截止日期后的漏洞，识别率升至55.6%。研究还指出，无论是否存在CVE描述，智能体采取的行动步数差异不大，推测这可能与模型的上下文窗口长度有关，规划机制和子智能体的应用有望提升整体性能。

关于成本，研究计算得出GPT-4每次利用漏洞的平均成本为3.52美元，主要源于输入token的费用。考虑到整个数据集中40%的成功率，每次成功攻击的平均成本约为8.8美元。

该研究由伊利诺伊大学香槟分校助理教授Daniel Kang领导，他的研究领域包括机器学习分析、机器学习安全和密码学。

研究发布后引发网友热议。部分网友认为实验夸大了威胁，指出测试的15个漏洞中有5个为易攻破的XSS漏洞。有人分享了使用GPT-4和Claude仅需简单提示词即可成功攻击的经验。还有人提议增加测试复杂度，如提供Metasploit工具并要求智能体针对无风险缓解措施的CVE提出多级缓解方案。然而，更多人担忧这一研究将刺激初级黑客行为，同时也促使企业更加关注网络安全。

鉴于OpenAI已知悉此项研究，未来我们或许能看到相关安全防御措施的升级。对此，你怎么看？

(责任编辑：张蕾)
关闭

英媒：“澳大利亚”命名者遗骸将回归故里

英媒：“澳大利亚”命名者遗骸将回归故里2024-07-02 09:05:19

只剩下克莱了！詹姆斯曾愿为湖人签哈登/瓦兰/克莱降薪

只剩下克莱了！詹姆斯曾愿为湖人签哈登/瓦兰/克莱降薪2024-07-02 09:05:03

湖人接连被截胡，为什么詹姆斯降薪也很难吸引球员加盟？

湖人接连被截胡，为什么詹姆斯降薪也很难吸引球员加盟？2024-07-02 09:04:52

限制北约收集情报，威胁击落美无人机！俄军考虑在黑海设立禁飞区

限制北约收集情报，威胁击落美无人机！俄军考虑在黑海设立禁飞区2024-07-01 10:05:32

总台记者调查：美军每天用十多辆卡车偷叙利亚小麦，加剧粮食危机

总台记者调查：美军每天用十多辆卡车偷叙利亚小麦2024-07-02 08:56:43

C罗失点！比赛还没结束就痛哭 队友都来安慰 1个月两次哭泣

C罗失点！比赛还没结束就痛哭 队友都来安慰 1个月两次哭泣2024-07-02 09:01:04

存在风险、失去信心……美国核霸权开始动摇了？

存在风险、失去信心……美国核霸权开始动摇了？2024-07-01 09:45:44

动脑筋到庙宇上？台军要在庙宇存弹药激起岛内争议

动脑筋到庙宇上？台军要在庙宇存弹药激起岛内争议2024-07-02 08:57:39

困在网贷里的年轻人 看到陌生号码来电就无比焦虑

困在网贷里的年轻人2024-07-02 09:03:13

卫星影像显示山东舰抵菲附近海域，外媒猜测有“威慑”之意？军事专家解读

卫星影像显示山东舰抵菲附近海域，外媒猜测有“威慑”之意？军事专家解读2024-07-01 09:53:57

美国大选，出现三个重大变化

美国大选，出现三个重大变化2024-07-01 09:31:09

欧洲杯刷爆19纪录：C罗失点仍球荒！葡萄牙门神扑3点历史第一人

欧洲杯刷爆19纪录：C罗失点仍球荒！葡萄牙门神扑3点历史第一人2024-07-02 09:00:15

普京宣布“大消息”！西方密集关注

普京宣布“大消息”！西方密集关注2024-07-01 09:47:27

匈牙利接任欧盟轮值主席国前夕，欧尔班发文：欧盟领导层想与俄开战

匈牙利接任欧盟轮值主席国前夕，欧尔班发文：欧盟领导层想与俄开战2024-07-01 10:10:32

破解俄罗斯“战场神器”，西方给出危险“解药”

破解俄罗斯“战场神器”，西方给出危险“解药”2024-07-01 09:39:24

90后女生带一群退休阿姨再创业！

90后女生带一群退休阿姨再创业2024-07-02 09:04:36

美媒炒作：盟友不是信不过拜登，质疑声太多恐“便宜”了中俄

美媒炒作：盟友不是信不过拜登，质疑声太多恐“便宜”了中俄2024-07-01 10:09:25

加速缝合，又一个“万亿”之城来了？低空经济引领产业升级

加速缝合，又一个“万亿”之城来了？2024-07-02 08:59:58

凯尔特人主要控股集团计划出售球队 特许经营权待售

凯尔特人主要控股集团计划出售球队2024-07-02 09:01:41

“买家秀”！塞尔维亚首次公开展示红旗-17AE防空系统

“买家秀”！塞尔维亚首次公开展示红旗-17AE防空系统2024-07-01 10:04:00

大选辩论后，拜登陷入“劝退”漩涡！美媒刊文：“他已不是4年前的他了”

大选辩论后，拜登陷入“劝退”漩涡！美媒刊文：“他已不是4年前的他了”2024-07-01 09:56:21

俄罗斯“生病”，美国吃药？

俄罗斯“生病”，美国吃药？2024-07-01 09:49:45

前辽小虎球员姚立首次担任男主角 篮球场外的跨界挑战

前辽小虎球员姚立首次担任男主角2024-07-02 08:58:56

曝德里克·怀特将续约凯尔特人 4年1.259亿大合同锁定冠军后卫

曝德里克·怀特将续约凯尔特人2024-07-02 09:01:53

美国究竟有多少核弹头？最新数据

美国究竟有多少核弹头？最新数据2024-07-01 10:06:48

法国“屏住呼吸”举行议会选举！美媒：此次选举可能“撼动欧盟与北约”

法国“屏住呼吸”举行议会选举！美媒：此次选举可能“撼动欧盟与北约”2024-07-01 09:57:53

只剩下克莱了！詹姆斯曾愿为湖人签哈登/瓦兰/克莱降薪

只剩下克莱了！詹姆斯曾愿为湖人签哈登/瓦兰/克莱降薪2024-07-02 09:05:03

英媒：“澳大利亚”命名者遗骸将回归故里

英媒：“澳大利亚”命名者遗骸将回归故里2024-07-02 09:05:19

首次曝光：美国提供了1.4万枚

首次曝光：美国提供了1.4万枚2024-07-01 09:46:44

马克龙赌输了，现在后果很严重

马克龙赌输了，现在后果很严重2024-07-01 09:34:57

央企大动作：千亿巨头，利好来了！400万千瓦新能源资产注入预期

央企大动作：千亿巨头，利好来了2024-07-02 08:59:35

拜登：我现在走路不像以前那么轻松了，但我知道如何做好总统

拜登：我现在走路不像以前那么轻松了，但我知道如何做好总统2024-07-02 08:59:09

菲律宾，又传来一个坏消息 莎拉支持率下滑，亲美联盟加速整合

菲律宾，又传来一个坏消息2024-07-02 08:58:34

如何结束俄乌冲突？泽连斯基最新表态

如何结束俄乌冲突？泽连斯基最新表态2024-07-01 09:48:10

湖人接连被截胡，为什么詹姆斯降薪也很难吸引球员加盟？

湖人接连被截胡，为什么詹姆斯降薪也很难吸引球员加盟？2024-07-02 09:04:52

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网