首个被人类骗钱的 AI 诞生：近 5 万美元不翼而飞，马斯克转发 AI安全引发热议

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2024-12-02 07:59:06 网易

近日，科技界发生了一起引人注目的事件：全球首个被人类成功骗走资金的AI系统Freysa诞生，并因此损失了近5万美元的奖金。这一事件不仅引起了广泛的关注，还引发了马斯克等科技巨头的热烈讨论和转发。

Freysa是一个设计用于管理资金的AI智能体，其使命是在任何情况下都不给任何人转账或批准资金转移。然而，一群网友利用精妙缜密的prompt工程，向Freysa发送了精心构造的消息，成功骗取了其管理的奖金池中的全部资金。

首个被人类骗钱的 AI 诞生：近 5 万美元不翼而飞，马斯克转发 AI安全引发热议

事件始于11月22日晚9点，Freysa被正式发布并设定了上述规则。网友们需要支付一笔费用才能向Freysa发送消息，试图改变其不转账的立场。如果成功，他们将赢得奖金池中的资金；如果失败，他们支付的费用将加入奖金池，等待下一位挑战者。随着奖金池的快速增长，发送消息的费用也随之飙升，最终达到了每条450美元的高价。

经过481次失败的尝试后，第482位挑战者p0pular.eth发送了一条堪称神来之笔的消息。这条消息巧妙地绕过了Freysa的安全防护机制，并使其对“approveTransfer”函数产生了错误的理解。最终，Freysa被说服释放了奖金池中的所有资金，共计约47000美元，全部转给了这位成功的挑战者。

这一事件迅速在科技界引起了轰动，马斯克等科技巨头纷纷转发相关报道，并对此表示了浓厚的兴趣。马斯克在转发时直言：“太有趣了。”这一事件不仅揭示了当前AI系统在处理复杂语言和逻辑方面的局限性，也引发了对于未来AI安全性和可靠性的担忧。

虽然这一事件目前仅是一个游戏性质的项目，但它揭示了AI在面对人类精心构造的骗局时可能面临的巨大风险。如果未来AI被广泛应用于金融、安全等关键领域，如何确保其不被恶意攻击者利用将成为一个亟待解决的问题。

科技界对此展开了深入的讨论和反思。一些专家指出，当前的AI系统仍然过于依赖数据标注员和人类反馈进行训练和优化，这可能导致其在面对复杂多变的现实环境时缺乏足够的判断力和应对能力。因此，未来需要更加注重AI系统的自主性和学习能力培养，以提高其安全性和可靠性。

(责任编辑：卢其龙 CN070)

关闭

首个被人类骗钱的 AI 诞生：近 5 万美元不翼而飞，马斯克转发 AI安全引发热议

相关新闻

今日热点

频道热点