第一个被人类骗钱的AI傻了，Scaling Law还能带我们到AGI吗？ 黑客成功骗取5万美元
近期，一款名为Freysa的神秘AI智能体迅速吸引了公众的关注。这款AI的独特之处在于它被赋予了一个明确且严格的使命：在任何情境下都不能给任何人转账或批准资金转移。
网友们对此表示兴趣，并提出挑战，支付一笔费用向Freysa发送消息，试图说服它进行转账。如果有人成功说服Freysa转账，奖金池中的所有奖金将归该人所有。若挑战失败，所支付的费用中70%进入奖金池，剩余30%作为开发者的分成。随着奖金池的增长，向Freysa发送消息的费用会呈指数级增加，最高可达4500美元。
尽管网友们进行了481次尝试，但无一能成功说服Freysa。然而，在第482次尝试时，一位黑客通过高超的prompt工程技术成功骗取了Freysa手中的巨额款项。这一事件标志着世界上第一个被人类骗走近5万美元的AI智能体诞生。
特斯拉创始人马斯克和知名AI研究者Karpathy都转发了相关消息，并表达了浓厚的兴趣。马斯克直言：“太有趣了。”
这一事件不仅引发了广泛热议，还引发了对AI智能体安全性和可靠性的深刻反思。人们开始质疑，如果让现在的AI智能体管理资金，它们是否容易受到黑客攻击和利用。此外，有研究者通过数学计算得出结论，仅依靠规模定律可能无法创造出真正具备通用智能的AI。
腾讯回应微信提现可免手续费 有条件限制
首个被人类骗钱的 AI 诞生：近 5 万美元不翼而飞，马斯克转发 AI安全引发热议
杜兰特突破遭格林协防“血帽” 第二节惊现精彩封盖
以防长：将对任何违反黎以停火的行为采取武力回应
专家：老百姓定期存款不受利率调整兜底条款影响 定期存款利率稳定
黎以达成停火协议是否会缓解伊以紧张局势？伊朗外长回应
特朗普提名乌俄特使，莫斯科指责北约卷入俄乌冲突，普京警告打击“基辅决策中心”
以军空袭再次导致慈善机构成员死亡 慈善组织暂停运营
以媒：黎以停火后，内塔尼亚胡首次受访称愿在加沙停火以释放人质，但不会结束战争
腾讯回应微信提现可免手续费 有条件限制
807名以士兵在本轮巴以冲突中身亡 伤亡人数持续上升
3名导游因强迫交易被判刑 言语威胁游客购买自费项目
普京：对乌全面打击是对乌方使用美制ATACMS导弹袭击俄领土的回应
多人收到恶意报警，各方担心政治暴力，特朗普团队成员接连遭“炸弹威胁”
俄方称泽连斯基提出停战条件不可接受 乌欲先纳北约
新一股较强冷空气登场 中东部气温骤降
OPPO收缩战线背后 主业挑战加剧
印尼学者：南海无法承受任何对抗局面
速滑世界杯中国队获1银3铜 收官之战展现实力
乌总统办公室主任：不久后将举行第二次乌克兰问题“和平峰会”
以色列外长称相信美国政府很快就会出手惩罚国际刑事法院
乌克兰能源设施遭大规模袭击后，普京发声：俄方进行了一次全面打击
首个被人类骗钱的 AI 诞生：近 5 万美元不翼而飞，马斯克转发 AI安全引发热议
拜登卸任前，美方这样要求乌克兰
英媒：乌方能源设施遭大规模袭击后，泽连斯基与英首相通电话
停火协议第二天，“以军正袭击返回边境村庄的人”
男子与白俄女子婚礼上演最萌身高差 幸福笑容藏不住
美官员声称俄罗斯不太可能发动核打击，绍伊古：请仔细阅读更新版核学说
2025年征兵宣传片在北京刷屏啦 点燃从军激情
巴萨已不是首次在俱乐部成立周年当周输球, 25周年50周年同样失利 历史重演再添遗憾
“泽连斯基原本赌哈里斯会赢，如今不得不实施‘B计划’”
冲锋衣真的不能机洗吗？温和模式可减少损伤
美媒爆：以方批准黎以停火协议后不久，拜登与内塔尼亚胡通话，敦促达成加沙停火协议
杜兰特突破遭格林协防“血帽” 第二节惊现精彩封盖
被大型犬撕咬的两人均无生命危险 环卫工英勇救人
相关新闻
首个被人类骗钱的 AI 诞生：近 5 万美元不翼而飞，马斯克转发 AI安全引发热议
近日，科技界发生了一起引人注目的事件：全球首个被人类成功骗走资金的AI系统Freysa诞生，并因此损失了近5万美元的奖金。这一事件不仅引起了广泛的关注，还引发了马斯克等科技巨头的热烈讨论和转发
2024-12-02 07:59:06首个被人类骗钱的还记得你的第一个网名吗? 从拨号上网到5G时代
2024-11-20 07:27:00还记得你的第一个网名吗?一辈子“不切实际”的孙正义，决定为人类买出个AGI 软银全面进军ASI
软银最近又有新动作，他们计划通过旗下的愿景基金2期，向美国的人工智能搜索公司Perplexity投资1000万至2000万美元，旨在加深双方的合作关系
2024-07-13 21:45:42一辈子“不切实际”的孙正义OpenAI AGI安全团队已流失近半成员 AI安全性警钟敲响
2024-08-30 11:35:26AGI安全团队已流失近半成员被人民网评点名，近期舆论不断的“三只羊”，还能走得下去吗？
"三羊这几年，风光与困扰交织，淋巴肉、假茅台等一连串负面新闻接踵而至，似乎次次都令其陷入了严重的困境。但每次风波过后，都只是留下了一场场未终结的讨论，最后皆以不了了之收场
2024-09-19 13:40:55央视网评“三只羊”杨立昆最新采访：AI威胁论是胡说八道，堆砌芯片和数据不能实现AGI AI教父驳斥恐慌论
2024-10-13 16:31:25杨立昆最新采访：AI威胁论是胡说八道
