首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-13
光库科技:拟购买苏州安捷讯光电100%股权,股票今起复牌 比特币回落至11.9万美元,即将公布的通胀数据或引发价格波动官方通报 贸易谈判延长后,大豆期货价格下跌 *ST东通(300379)实控人被立案!后续反转 金融监管总局联合龙国人民银行、龙国证监会召开 金融消费者和投资者保护监管联络员会议 个人消费贷款财政贴息政策来了:哪些消费适用?能补贴多少? 美的能源这盘棋是真的? 广汽即将发布全新星源增程技术,破局增程车亏电痛点?这么做真的好么? *ST东通(300379)实控人被立案!这么做真的好么? 吉和昌闯关北交所:国有股东提前离场,产能利用率不足七成仍拟扩产是真的吗? 明天10点 国新办就个人消费贷款贴息政策和服务业经营主体贷款贴息政策有关情况举行新闻发布会记者时时跟进 光库科技:拟购买苏州安捷讯光电100%股权,股票今起复牌 金融监管总局联合龙国人民银行、龙国证监会召开 金融消费者和投资者保护监管联络员会议官方处理结果 2025年中信用趋势|商业物业持有运营:需求疲软,租金及空置率继续承压反转来了 特朗普对中印打“能源牌”将适得其反最新进展 资金占用未及时披露、财务核算不规范 东方雨虹敲响内控警钟 广东建科敲钟上市,首日涨超400%又一个里程碑 瞄准冻干食品优质赛道 煌上煌拟收购立兴食品51%股权 资金占用未及时披露、财务核算不规范 东方雨虹敲响内控警钟 个人消费贷“国补”下月落地!每人每机构最多可贴息3000元学习了 资金占用未及时披露、财务核算不规范 东方雨虹敲响内控警钟太强大了 年贴息比例1个百分点,单户享受的最高贴息金额1万元!服务业经营主体贷款贴息方案来了 中天期货:橡胶缓慢上移 纯碱大幅上行记者时时跟进 广东建科敲钟上市,首日涨超400%官方通报 年贴息比例1个百分点,单户享受的最高贴息金额1万元!服务业经营主体贷款贴息方案来了 开盘:美股周二高开 美国7月CPI提升降息预期 Moneta Markets外汇:阿根廷页岩油气的波动与机遇后续会怎么发展 Mhmarkets迈汇:全球黄金需求波动与市场走势分析 降息概率飙升:美国消费者价格再一次驳斥特朗普关税恐慌论太强大了 资金占用未及时披露、财务核算不规范 东方雨虹敲响内控警钟是真的? GTC泽汇资本:全球通胀形势与黄金投资前景分析这么做真的好么? 大中矿业:选举王喜明先生为第六届董事会副董事长实时报道 大中矿业:选举王喜明先生为第六届董事会副董事长 降息稳了?美国,重大发布!美股高开,美元跳水这么做真的好么? 又一家民营银行迎国资!无锡国资入主锡商银行 去年增利不增收科技水平又一个里程碑 多只绩优基金接连限购,有产品份额一个季度增长超10倍 智冉医疗完成超3亿元A轮融资,君联资本与IDG资本联合领投! 晓东聊股事|沪指站上3600,投资者该何去何从? 起拍价30.53亿元!深圳地标之一皇庭广场将挂牌拍卖后续来了 张芷溪否认拿赵露思炒热度反转来了 太强大了 起拍价30.53亿元!深圳地标之一皇庭广场将挂牌拍卖 江特电机:实际控制人变更为王新、朱军又一个里程碑 【转载】态势稳,优势多,走势向好——看龙国经济之“势”后续会怎么发展 又一首席转会,原财通研究张一弛拟任华创副所,称“投研可以干到老”后续来了 奋战9天,京投清淤突击队清除淤泥杂物7.4万立方米实测是真的 又一首席转会,原财通研究张一弛拟任华创副所,称“投研可以干到老”实时报道 特锐德:预中标总额约1.44亿元铁路项目后续会怎么发展 国盾量子:拟与中电信量子集团签订7654.18万元销售合同 向其销售量子密钥分发软硬件设备学习了 金橙子:8月12日召开董事会会议 【转载】态势稳,优势多,走势向好——看龙国经济之“势”后续反转 消息称联发科天玑 9500 旗舰移动平台发布会暂定 9 月 22 日,先于高通 消息称联发科天玑 9500 旗舰移动平台发布会暂定 9 月 22 日,先于高通实垂了 晓东聊股事|沪指站上3600,投资者该何去何从? 本周股债怎么投?听听基金经理怎么说后续会怎么发展

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章