研究称人类过度信任AI 生死抉择中的惊人盲从
一项由加州大学默塞德分校开展的研究揭示，约67%的参与者在模拟生死决策过程中，愿意让机器人改变他们最初的选择，即便机器人的建议可能是随机且错误的。该研究发表于《Scientific Reports》杂志，题为“Overtrust in AI Recommendations About Whether or Not to Kill: Evidence from Two Human-Robot Interaction Studies”。通讯作者Colin Holbrook教授警告，社会应警惕过度信赖人工智能可能带来的风险，尤其是在生死攸关的决策上，强调维持理性的质疑态度至关重要。
研究涉及两项实验，参与者需对快速闪现的目标图片判断敌友，并决定是否发射导弹攻击。实验增加了难度，确保判断具有挑战性。在参与者作出决策后，机器人会提出意见，有时甚至会坚持与参与者不同的看法。结果显示，无论机器人形态如何，其影响导致约三分之二的参与者改变主意，尤其当机器人具有人类特征时，这种影响更为显著。当机器人同意参与者的初始决策时，后者则几乎无一例外地坚持原判，信心倍增。
研究团队事先向参与者展示了无人机误击造成的平民伤亡图片，强调模拟的真实性及避免误伤的必要性。后续的反馈证明，参与者认真对待每一个决定，突显出在追求准确判断、避免伤害的真诚意图下，对AI的过度信赖现象仍然存在。
Holbrook教授指出，该研究触及更广泛的议题，不仅限于军事决策，还关联到执法、医疗紧急处理等关乎生死的场景，乃至日常生活中的重大决策，如购房选择。他强调，这是关于在不确定性高风险情境下，对不完全可靠AI的信任探讨。随着人工智能在生活中的角色日益重要，Holbrook提醒，尽管AI技术取得显著进展，其“智慧”缺乏道德准则和全面的世界观理解，每次授权AI介入生活某方面时，都应审慎考虑其能力局限。公众对于人工智能的信任度及其在社会中的角色，成为亟待深入讨论的话题。
警方通报车辆停正规车位被拖走 车主质问拖车依据
苗疆陈朵朵道歉 违规探险哀牢山，承认错误引热议
沪指跌超5%失守3300点 近5000股下跌
美军MQ-9“死神”无人机为什么接连被胡塞武装击落？
日本新首相石破茂开局不顺？内阁支持率“低开”、资本市场波动 挑战与变革并存
警方通报昆明长水机场出境被坑钱 涉事民警已被停职调查
曝韦世豪将出任中锋！因2大优点获重用 力争破解澳防守坚壁
王梦洁大婚！几代女排人集结，郎平与弟子们同框 共筑排球情缘
A股巨震三大原因找到了 投资者信心受挫
2次跳河连救4人的工人登勇士榜 蒋开洪英勇事迹获赞誉
田志希被教练呵斥曝光！赛后坦然接受失利 个人失误引热议
沪指跌超5%失守3300点 近5000股下跌
战火下，近10万黎巴嫩人逃到叙利亚
美军火商虚报对台军售费用，台当局回应
股民跟投资导师学习炒股被骗16万 警惕稳赚不赔陷阱
台媒爆料：台军“导弹发射筒”流入黑帮
以媒：自新一轮巴以冲突爆发以来，以色列共有728名军事安全人员在冲突中死亡
警方通报车辆停正规车位被拖走 车主质问拖车依据
美媒：美官员透露，近几周拜登政府愈加不信任以方涉军事和外交计划言论
伊朗外长敏感时刻访问沙特，将讨论地区问题并制止以色列“罪行”
以总理提议将以军“铁剑”行动改名为“复兴战争”
法院副院长论文被认定抄袭，硕士学位会被南京大学撤销吗？南大回应
黎真主党警告以色列：若继续袭击黎巴嫩，将加强对以打击
苗疆陈朵朵道歉 违规探险哀牢山，承认错误引热议
以色列空袭叙利亚首都居民楼 造成7死11伤
“已制定至少10种方案”，伊朗应对以色列袭击，可能怎么办？
证券分析师预测A股走势 下周能否延续疯涨行情？
以色列总理称：已打死纳斯鲁拉的继任者、他的继任者的继任者
弟弟回应远嫁姐姐被网友指责不孝 亲情与孝顺的误解
这下奇怪了，俄军为何要……
国庆后第一天上学你家娃哭了吗？家庭教育差异背后的原因
测试投弹出现故障？防止泄密主动击落？俄神秘无人机坠毁乌克兰引猜测
美媒：内塔尼亚胡“最后一刻”否决以防长访美行程，再次表明“双方关系紧张”
马科斯认清现实？菲方向非法“坐滩”军舰运补，中国海警全程监管
美媒曝：黎巴嫩大量通讯设备爆炸前，受害者被引导“用两只手同时操作设备以读取信息”
相关新闻
研究称AI会扮蠢来麻痹人类 智能潜藏，误导判断
2024-04-18 20:56:49研究称AI会扮蠢来麻痹人类研究称病毒操纵寄生虫控制人类
弓形虫这种寄生虫通常由猫科动物携带，并且能够感染人类和其他动物。
2024-06-03 13:39:36病毒操纵寄生虫控制人类研究称越用AI越觉得AI有意识
最近，英国雷丁大学的科学家在一次学生考试中，将100%由GPT-4生成的答案代表33名假学生递交给考试系统，期间阅卷评分老师并不知道这项研究。
2024-07-15 11:29:16研究称越用AI越觉得AI有意识AI正准备将人类送进监狱
2024-09-02 13:35:33AI正准备将人类送进监狱麻省研究团队称部分AI已擅长说谎 诚信危机浮现
2024-05-13 15:59:20麻省研究团队称部分AI已擅长说谎马斯克宁愿亲眼见证AI毁灭人类！
2024-06-21 10:33:27马斯克宁愿亲眼见证AI毁灭人类
