首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-16
这么做真的好么? 刘璐:工商银行在AI智能体方面的探索与实践是真的吗? 周五俄罗斯股市开盘上涨 “普特会”将于龙国首都时间周六凌晨开始后续反转来了 久之洋:自研产品已应用于卫星互联网行业实时报道 龙国能建:2024年水泥年产量在2000万吨以上专家已经证实 王青:7月汽车销售额转负拖累消费 四季度初前后或推出增量政策 | 首席读数据 周鸿祎:我不刚愎自用也不固执,每次意识到有变化的时候都能抓住科技水平又一个里程碑 国海电新李航:锂电龙头公司已出现明显向好变化官方通报 暴涨!A股重大信号:居民存款“搬家”反转来了 收评:港股恒指跌0.98% 科指跌0.59% 科网股普跌 互联网医疗股大涨 稳定币概念走弱官方已经证实 “清仓式分红”背后的资源配置隐忧 成大生物左手用超募资金补流右手大额分红是真的? 从设计到生产,AI让浙江自然跑出“加速度”官方通报 农尚环境索赔已有胜诉先例,律师提示此类投资者可报名 国科军工:截至2025年7月31日股东人数为17740户实时报道 任子行(300311)即将开庭,股民索赔仍在进行中官方已经证实 天元宠物6.88亿并购背后:近两年业绩持续下滑 某汽车零部件龙头入局,机器人赛道再添跨界玩家!| 盘后公告精选官方处理结果 收评:港股恒指跌0.37% 科指跌0.97% 科网股走弱 保险股普涨 联想跌近6%专家已经证实 宝地矿业:上半年归母净利润同比下降40% 华为畅享80手机天猫促销,原价1099现934.15太强大了 宝地矿业:上半年归母净利润同比下降40%太强大了 中旗新材:第一期员工持股计划股票出售完毕太强大了 引领资产数字化新浪潮 全球首个RWA垂直媒体平台RWA100重磅上线 捷邦科技:目前公司液冷散热模组类业务正在与客户开展产品导入工作太强大了 航天宏图:尚存逾期未支付商业承兑汇票合计为1677.54万元后续来了 宝地矿业:上半年归母净利润6159.2万元,同比下降40.11%后续反转 关于“长城军工”“赛诺医疗”交易风险提示的公告专家已经证实 宝钢股份:公司聚焦主业开展生产经营活动 罗布斯塔咖啡势将实现单周大幅上涨 受主要产地供应紧张担忧影响后续会怎么发展 甲骨文宣布扩大与谷歌云的合作又一个里程碑 悦达投资:扣非净利连续攀升,转型赋能成效斐然是真的? 江阴银行:董事陈强辞职官方通报 埃森哲收购澳新地区网安企业CyberCX官方已经证实 智慧农业:2025年半年度净利润约977万元学习了 新诺威上半年净利亏损274.61万元,同比盈转亏实时报道 翰宇药业:公司高级管理人员辞职是真的? 柳阳龙国首都银行董事会秘书任职资格获核准 非洲纸尿裤霸主,赴港IPO!背后是一对龙国夫妇 特朗普因试图接管华盛顿特区警察部队遭起诉专家已经证实 海森药业吴洋宽升任副总经理,24年薪酬仅为13万,近一年股价上涨63.87% 云南白药拟收购聚药堂100%股权,作价6.6亿元实时报道 艾布鲁:补选赵桂林先生、邓洁女士为公司第三届董事会非独立董事最新报道 长城华西银行被罚402.8万元:违反金融统计管理规定等反转来了 603161,实控人或变更!今日一度涨停!学习了 银行业二季度数据:资产规模突破467万亿,净息差降幅有所收窄后续来了 特朗普称半导体关税即将出台,税率或高达300%官方通报 美银:杰克逊霍尔会议后美国股市将走弱最新进展

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章