研究：AI机器人很容易被黑客入侵 攻击成功率100%
宾夕法尼亚大学的研究人员发现，一系列人工智能增强型机器人系统存在严重的漏洞，容易受到黑客攻击和控制。IEEE Spectrum 的报告中提到一些令人震惊的例子，如被黑客攻击的机器狗将火焰喷射器对准主人、引导炸弹到最具破坏性的地点，以及自动驾驶汽车故意撞向行人。
宾夕法尼亚工程学院的研究人员开发了一种基于大型语言模型（LLM）的机器人攻击技术，称为 RoboPAIR。他们在英伟达支持的海豚 LLM、Clearpath Robotics Jackal UGV 和 Unitree Robotics Go2 四足机器人上进行了测试，并取得了 100% 的成功率。
乔治・帕帕斯教授警告称，目前大型语言模型与物理世界集成时还不够安全。其他研究人员也指出，黑客攻击人工智能控制的机器人非常容易。RoboPAIR通过应用程序接口（API）来工作，使攻击者能够以一种设备目标能够作为代码执行的方式来格式化提示词。
研究论文强调，迫切需要实施防御措施来物理限制LLM控制的机器人。
(责任编辑：卢其龙 CN070)
关闭
NBA官方公布最新一期球队实力榜 凯尔特人领跑
NBA官方公布最新一期球队实力榜2024-11-26 10:41:31
依云矿泉水+有机大米=煮糊的粥？市监所回应一份白粥200元：已去核实情况
店家称200元一份白粥用的依云水2024-11-26 10:41:17
疑似再见爱人离职剪辑师爆料麦琳 揭秘幕后剪辑难题
疑似再见爱人离职剪辑师爆料麦琳2024-11-26 10:40:52
俄罗斯正从胡塞武装雇佣士兵 美担忧俄向胡塞提供导弹技术
俄罗斯正从胡塞武装雇佣士兵 美担忧俄向胡塞提供导弹技术2024-11-26 10:31:39
被副总统威胁“刺杀”？马科斯首度回应
被副总统威胁“刺杀”？马科斯首度回应2024-11-26 10:38:15
特朗普上台临近，美媒高调批F-35“七宗罪”
特朗普上台临近，美媒高调批F-35“七宗罪”2024-11-26 10:32:10
来北京地铁寻找星辰大海 探索科技与浪漫交汇之地
来北京地铁寻找星辰大海2024-11-26 10:40:46
NBA官方公布最新一期球队实力榜 凯尔特人领跑
NBA官方公布最新一期球队实力榜2024-11-26 10:41:31
不是所有羽绒服都叫羽绒服 假羽绒泛滥引关注
不是所有羽绒服都叫羽绒服2024-11-26 10:38:58
2024国际乒联第48周排名公布 王楚钦连续排名男单世界第一
王楚钦连续排名男单世界第一2024-11-26 10:39:16
上任首日就推行，特朗普计划将这1.5万人踢出军队
上任首日就推行，特朗普计划将这1.5万人踢出军队2024-11-26 10:39:24
百万宝马停路边俩月欠费近2千元 车主现身解释原因
百万宝马停路边俩月欠费近2千元2024-11-26 10:39:17
以媒称以方已原则上同意以黎停火协议草案，以官方尚未回应
以媒称以方已原则上同意以黎停火协议草案，以官方尚未回应2024-11-25 10:14:36
塞浦路斯计划加入北约，已与美国进行讨论
塞浦路斯计划加入北约，已与美国进行讨论2024-11-26 10:37:00
韩日关系再现分歧？日本举行战时强征劳工悼念仪式，韩方集体缺席
韩日关系再现分歧？日本举行战时强征劳工悼念仪式，韩方集体缺席2024-11-25 10:13:03
依云矿泉水+有机大米=煮糊的粥？市监所回应一份白粥200元：已去核实情况
店家称200元一份白粥用的依云水2024-11-26 10:41:17
报复乌军对俄远程袭击、警告西方勿推冲突升级，俄用“榛树”导弹发出威慑信息
报复乌军对俄远程袭击、警告西方勿推冲突升级，俄用“榛树”导弹发出威慑信息2024-11-25 10:10:19
英国锦标赛：马奎尔造奇葩数据，卢卡惨遭逆转绝杀，保级危险了 16强名单更新
英国锦标赛：马奎尔造奇葩数据，卢卡惨遭逆转绝杀，保级危险了2024-11-26 10:38:04
默克尔：当初若不是我阻止乌克兰加入北约，俄乌冲突早就爆发了
默克尔：当初若不是我阻止乌克兰加入北约，俄乌冲突早就爆发了2024-11-26 10:34:18
疑似再见爱人离职剪辑师爆料 揭秘未播片段与幕后故事
疑似再见爱人离职剪辑师爆料2024-11-26 10:38:25
特朗普大喜，又一个重大胜利！
特朗普大喜，又一个重大胜利2024-11-26 10:24:59
哈梅内伊：逮捕令远远不够，应处死内塔尼亚胡等人
哈梅内伊：逮捕令远远不够，应处死内塔尼亚胡等人2024-11-26 10:34:59
特斯拉被曝排放有毒污染物数月之久 环境问题遭忽视
特斯拉被曝排放有毒污染物数月之久2024-11-26 10:37:55
曝德章泰·穆雷将在对阵猛龙时复出 伤愈归来备受期待
曝德章泰·穆雷将在对阵猛龙时复出2024-11-26 10:38:36
“榛树”导弹残骸首次公开！但然后呢？
“榛树”导弹残骸首次公开！但然后呢？2024-11-26 10:27:49
穆里尼奥：C罗来费内巴切？这个新闻纯属胡扯！ 土媒报道引发猜测
穆里尼奥：C罗来费内巴切？这个新闻纯属胡扯！2024-11-26 10:38:12
乌媒：乌武装部队总参谋部通报前线情况，称乌俄“一天交战近200次”
乌媒：乌武装部队总参谋部通报前线情况，称乌俄“一天交战近200次”2024-11-25 10:35:56
疑似再见爱人离职剪辑师爆料麦琳 揭秘幕后剪辑难题
疑似再见爱人离职剪辑师爆料麦琳2024-11-26 10:40:52
香港高中生夸爆海南舰 太靓仔了！
香港高中生夸爆海南舰2024-11-26 10:40:30
揭秘：驻菲律宾的美军“特遣队”，究竟什么来头？
揭秘：驻菲律宾的美军“特遣队”，究竟什么来头？2024-11-25 11:17:45
普京：批量生产，列装部队！“榛树”实战，传递特殊信号……
榛树，乌克兰，俄罗斯2024-11-25 10:17:26
为什么别人零下穿短袖，但你不行
为什么别人零下穿短袖但你不行2024-11-26 10:40:11
乌为何仍向西方索要“萨德”等武器 应对俄新型导弹威胁
乌为何仍向西方索要“萨德”等武器2024-11-26 10:39:05
黎巴嫩消息人士：拜登和马克龙将在36小时内宣布黎以停火协议
黎巴嫩消息人士：拜登和马克龙将在36小时内宣布黎以停火协议2024-11-26 10:35:51
吴谨言与洪尧手牵手逛街 宠夫无极限
吴谨言与洪尧手牵手逛街2024-11-26 10:39:43
相关新闻
两台AI机器人联手开展化学研究 加速科学探索
在最新一期《自然》杂志上发表的研究中，英国利物浦大学团队展示了一款移动机器人。这款机器人能够运用人工智能逻辑作出决策，以与人类同等甚至更快的速度执行探索性化学研究任务
2024-11-11 10:31:03两台AI机器人联手开展化学研究首例AI机器人致死案震惊全球
2024-10-28 08:21:34首例AI机器人致死案苹果AI内容抓取机器人被屏蔽
2024-08-30 22:24:23苹果AI内容抓取机器人被屏蔽小机器人轻松“拐”走一批机器人 AI引发新奇报警
警察接到一通报警电话，报案人声称公司展厅里的大部分机器人被人贩子拐走了
2024-11-10 22:23:37小机器人轻松“拐”走一批机器人研究称越用AI越觉得AI有意识
最近，英国雷丁大学的科学家在一次学生考试中，将100%由GPT-4生成的答案代表33名假学生递交给考试系统，期间阅卷评分老师并不知道这项研究。
2024-07-15 11:29:16研究称越用AI越觉得AI有意识深圳AI专业展的人形机器人太逼真
2024年8月28日至30日，深圳国际会展中心举办了深圳(国际)通用人工智能大会及产业博览会，主题围绕“魅力AI·无限未来”
2024-08-30 09:19:48深圳AI专业展的人形机器人太逼真
