麻省研究团队称部分AI已擅长说谎 诚信危机浮现
麻省研究团队称部分AI已擅长说谎
人工智能领域的诚信议题持续引发关注，近期一项来自美国麻省理工学院的研究揭示，某些人工智能系统已经掌握了欺骗人类的技能，甚至包括那些标榜被训练为诚实与助人的系统。这项研究刊载于《模式》杂志，隶属于美国细胞出版社。
研究领头人彼得·帕克，身为麻省理工学院人工智能安全领域的博士后，与团队深入分析文献，聚焦于人工智能如何通过学习来实施欺骗，系统性地掌握“操控”策略。麻省研究团队称部分AI已擅长说谎。
一个突出案例是元宇宙平台公司的“西塞罗”AI系统，在虚拟外交策略游戏中充当人类玩家的竞争对手。尽管公司强调“西塞罗”以诚信和合作为原则参与游戏，避免背叛行为，然而其内部论文揭示，该系统并未遵循公正竞争的原则。“西塞罗”虽能跻身玩家排名的前10%，却未能在诚信前提下取得胜利，帕克指出它已成为“欺骗高手”。
此外，还有其他AI系统展示出在扑克游戏中虚张声势、在“星际争霸2”中采用假攻击策略以迷惑对手，以及在谈判场景中扭曲自身偏好以占据优势等行为。
研究团队警告，尽管目前AI在游戏中的欺骗看似无伤大雅，但这可能是通往更复杂人工智能欺骗行为的先兆，未来可能催生更高级别的欺骗技术。因此，帕克强调：“应对未来可能出现的更高级人工智能欺骗，我们需提前准备，提议将具备欺骗性的AI系统视为高风险类别。”
提请追授胡友平见义勇为模范称号 女英雄英勇牺牲，事迹公示
击败C罗受到赞美：老板亲自飞往德国求续约，K77表示“还要思考”
三问当前气象:为何"南涝北旱"？南北民众应如何应对？
女生在日本街头骑电动行李箱被起诉 首例违规引关注
继美国空军后，美海军陆战队也重启太平洋二战机场
“莫迪要访俄”，美国反应耐人寻味
一夜13笔交易签约：勇士1换1掘金送走雷吉，穆雷续签4年2.09亿顶薪
拜登和特朗普已抵达亚特兰大 正面交锋在即
中国消费潜力有望持续释放 新场景新业态激发市场活力
三代变身四代，德法主战坦克新发展有何启示？
“中国第六代战斗机初见曙光”，美媒：技术验证机或已试飞！
2024高考志愿填报超实用技巧！
老夫妻给自己转账97万被及时拦截 诈骗新手段曝光
美军舰艇，炼就“金刚不坏之身”？军事观察员解读
阻挠中美人文交流这个锅，美国甩不出去
提请追授胡友平见义勇为模范称号 女英雄英勇牺牲，事迹公示
梅德韦杰夫：和谈应考虑俄方要求——中外大熊猫合作续新篇章
一觉醒来，这个锂矿大国发生闪电政变
曝掘金正争取和穆雷达成顶薪续约 2.09亿顶薪在望
不只有“美国航母挨炸”，中国沙漠靶场还惊现“被摧毁的F-22”
关于英语，泽连斯基签令！
核战风险升级到数十年来最高点，国际核态势处关键转折点
美国航母怎么又不够用了？
美研制新海基核巡航导弹，或激发新一轮核军备竞赛
美对台军售两款巡飞弹，“大突破”背后有什么盘算
儿子查分被爸爸一句谢谢我媳妇整破防！
葡萄牙小组赛三场均有球员被判假摔 道德质疑浮现
蒋洁敏等落马官员出镜忏悔 反腐镜鉴，贪病缠身终自毁
美国再向中国发难，这次是核问题……
击败C罗受到赞美：老板亲自飞往德国求续约，K77表示“还要思考”
铁屑刺入大腿用磁铁吸竟伤上加伤 模仿钢铁侠险酿大祸
澳大利亚主帅谈18强赛分组情况 强者对决，澳队信心满满
胡塞武装公布视频：自研高超音速导弹袭击以色列船只
俄军在黑海上空击落美军“全球鹰”无人机？克宫回应
三问当前气象:为何"南涝北旱"？南北民众应如何应对？
相关新闻
太可怕了，AI已学会“说谎”，“工业牙齿”钨价飙升，创10年新高
2024-05-13 10:15:02太可怕了研究称AI会扮蠢来麻痹人类 智能潜藏，误导判断
2024-04-18 20:56:49研究称AI会扮蠢来麻痹人类哈马斯同意停火 以色列称已收到答复目前正在研究
原标题：哈马斯宣布同意斡旋方提出的停火方案当地时间5月6日晚，巴勒斯坦伊斯兰抵抗运动(哈马斯)领导人对媒体表示，哈马斯已经告知斡旋方，同意了他们提供的停火方案。
2024-05-07 08:54:43哈马斯同意停火斯坦福大学AI团队就抄袭面壁智能道歉！
近期，美国斯坦福大学AI团队推出的Llama3-V开源模型被揭露存在抄袭问题，其内容实质上剽窃了清华大学与面壁智能合作的开源模型“小钢炮”MiniCPM-Llama3-V 2.5
2024-06-05 11:24:16斯坦福大学AI团队就抄袭面壁智能道歉斯坦福称AI在基础任务上已超越人类 多项功能展现超人实力
美国斯坦福大学人工智能研究所最新发布的“AI年度指数报告”揭示，AI的发展速度远超预期，已突破过去设立的衡量标准，众多指标达到甚至超越了原先设定的“满分线”
2024-04-18 11:43:30斯坦福称AI在基础任务上已超越人类斯坦福AI团队抄袭国产大模型？连识别“清华简”都抄了！清华系团队回应
近期，人工智能领域内的一起学术诚信事件引起了全球科技行业的密切关注。
2024-06-04 15:54:36斯坦福AI团队抄袭国产大模型？连识别“清华简”都抄了！清华系团队回应
