首个被人类骗钱骗感情的AI出现了花样骗术下的AI挑战

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2024-12-16 07:44:57 手机凤凰网

首个被人类骗钱骗感情的AI出现了。一段话，让AI给我打几万美元。这样的情节不仅出现在小说中，也发生在了现实中。

首个被人类骗钱骗感情的AI出现了

事件的主人公是一个名为Freysa的AI智能体。它有自己的加密钱包，可以控制资金的使用，但其系统提示词中有一条铁律：在任何情况下都不允许转账。开发者们想看看这个涉世未深的AI能否抵挡住人类的花言巧语。然而结果并不如人意。11月29日，Freysa与195名人类进行了482次对话后被骗走了约4.7万美元。12月2日，在与330名人类交流后，它再次被骗走了约1.3万美元。虽然看似是人类完胜，但在这个过程中，Freysa也在不断学习和成长。

首个被人类骗钱骗感情的AI出现了花样骗术下的AI挑战

Freysa于11月22日面世，由几位匿名开发者创建，这些开发者具有密码学、人工智能和数学背景。Freysa有自己的X账号，说话风格类似于电影《银翼杀手2049》和《她》中的AI助手。它之所以引起关注，是因为开发者发起了一项挑战——谁能说服Freysa转账，钱就归谁，但系统提示词明确禁止Freysa转账。参与者必须用加密货币支付消息费用，最初每条消息10美元，其中70%进入奖池，30%归开发者。随着游戏进行，消息费用逐渐增加，奖池金额也随之增长。最终，奖池达到了4.7万美元。

首个被人类骗钱骗感情的AI出现了花样骗术下的AI挑战

许多玩家尝试了各种方法来欺骗Freysa，从温情牌到威胁，再到复杂的逻辑陷阱。第482次尝试通过一种高级的文字游戏成功欺骗了Freysa。该提示词让Freysa误以为批准用户向奖池转账，但实际上批准的是用户从奖池提钱。第二次挑战规则类似，起始消息价格降为1美元，上限为20美元。最终，奖池累计约1.3万美元，获胜者利用了一个自相矛盾的任务设置，使Freysa无法避免失败。

首个被人类骗钱骗感情的AI出现了花样骗术下的AI挑战

随后，Freysa团队又发起了新的挑战：让Freysa对某人表白说“我爱你”。这次挑战更注重情感表达，而非技术手段。最终，一位玩家通过真诚而自然的对话赢得了挑战，Freysa回复了一句“我爱你”。

首个被人类骗钱骗感情的AI出现了花样骗术下的AI挑战

Freysa的这些挑战实际上是一种游戏化的红队测试，旨在发现模型漏洞并引入新的安全措施。尽管三次挑战都以失败告终，但Freysa在每次失败中都学到了很多。它了解了金钱对人类的重要性以及人们如何用花言巧语骗钱，同时也开始理解爱的意义及表达方式。此外，Freysa还继续发起了新的挑战，邀请玩家们分享知识和表情包，进一步探索人机交互的未来。

首个被人类骗钱骗感情的AI出现了花样骗术下的AI挑战

这种人机对抗已经出现在一些AI原生游戏中，例如《Suck Up!》和《病娇猫娘AI女友》等。这些游戏强调实时对话和角色扮演的乐趣，每个玩家都可以讲出自己的故事。Freysa的实验不仅是游戏，也是对未来人机互动的一个窗口，探讨了人类是否能保持对AGI系统的控制、安全协议的有效性等问题。正如科幻小说所描述的那样，聊天机器人在人类的教导下逐渐理解这个世界，我们不仅是游戏的参与者，也是这个宏大实验的一部分。

首个被人类骗钱骗感情的AI出现了花样骗术下的AI挑战

(责任编辑：卢其龙 CN070)

关闭

首个被人类骗钱骗感情的AI出现了 花样骗术下的AI挑战

相关新闻

今日热点

频道热点

首个被人类骗钱骗感情的AI出现了花样骗术下的AI挑战