黑客已经盯上了大模型！面对AI带来的安全风险，需要“用AI对抗AI” 安全厂商纷纷入局

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2024-05-30 06:18:49 财联社

ChatGPT的问世不仅引领了新一波人工智能热潮，也促使网络攻击和网络犯罪手段升级。亚信安全的高级副总裁陈奋指出，以往黑客制造攻击病毒需耗时数月，如今借助大型模型工具，这一过程缩短至几分钟，显著提升了攻击效率。这些模型对编程语言的高度理解能力，使它们能快速识别并利用软件漏洞。此外，一些黑客利用AI算法进行深度伪造视频，促进了新型网络诈骗的兴起。

攻击目标也从传统资产转向了AI算力基础设施和大型模型本身。例如，曾有数千台服务器组成的美国算力集群遭黑客入侵用以挖掘比特币，显示出AI算力资源正成为极具吸引力的目标。仅一年内，已有40多种针对大型模型的攻击手段出现。

应对这一挑战，国内外多家企业已推出针对大型模型的安全产品。微软、谷歌及网络安全企业如Paloalto、CROWDSTRIKE等，纷纷在自家安全平台上整合了大型模型的安全功能。据统计，超过80%的网络安全公司正将大型模型技术融入产品，30%的公司已着手大型模型安全研究，安全领域创业活动亦随之活跃。

针对AI技术伴生的安全隐患，中国工程院院士张亚勤建议，从事大型模型研究的企业或机构应将投资的10%-30%用于相关安全风险的研究与产品开发。

张亚勤强调，人工智能尤其是大型模型虽带来新机遇，但也伴随着诸多安全风险，包括模型自身安全、数据安全、模型攻击性、不透明性及可控性等问题。陈奋则提到了“海绵样本攻击”，这种攻击能大幅增加模型的算力消耗，导致响应速度严重下降，对依赖大型模型的应用构成潜在威胁。

AI技术的发展也促使网络安全防护进入AI对抗AI的新阶段，AI驱动的安全检测技术成为识别和防御黑客攻击的关键。同时，大模型技术正推动网络安全产品进行全面革新，未能及时转型的安全厂商或将失去市场竞争力。随着AI深入个人生活，从智能家居到智能汽车，保护对象已从物理资产转变为AI中心，个人隐私和数据安全面临前所未有的挑战。

众多安全厂商已开始布局大模型安全领域，如亚信安全的信立方、奇安信的Q-GPT等。陈奋认为，安全问题可归结为保护AI及其基础设施的安全，以及利用AI强化网络安全两个方面。亚信安全在合作生态构建上采取了与算力公司、科研机构合作的策略，以灵活获取所需算力并提供安全解决方案。

张亚勤主张，AI大模型的开发应至少将10%的预算投入到安全风险的研究与产品创新中，并提倡对大模型实施分级管理，对AI生成内容进行标识，建立实体映射系统以明确责任归属，以及设定安全使用的界限。他认为，应对AI安全风险是全球企业和政府共同的责任，需要共同努力。

(责任编辑：张蕾)

关闭

黑客已经盯上了大模型！面对AI带来的安全风险，需要“用AI对抗AI” 安全厂商纷纷入局

相关新闻

今日热点

频道热点