首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

首个被人类\"骗钱\"的AI诞生:被说服转账近5万美元

作者:news 发表时间:2025-08-05
重庆蚂蚁消金发行20亿元3年期金融债 票面利率区间1.7%至2.4%这么做真的好么? 四环医药发盈喜 预计中期净利润不低于5000万元是真的吗? 陆上不含塔筒最低1399元/kW!本周854.48MW风机开标!【风电项目·周分析】实测是真的 伊力粮仓酒以高质价比破局白酒缩量周期,致敬理性消费时代 德翔海运盈喜后高开逾6% 预计中期权益股东应占溢利同比增加至多约2.55倍后续来了 ST帕瓦共同实际控制人之一张宝被立案,此前已辞去董事长等职务实测是真的 开盘|国内期货主力合约跌多涨少 SC原油跌超3%后续反转来了 美国正处于衰退边缘?穆迪首席经济学家警告美联储也难重振经济!实垂了 国发股份定增募资引猜想:加码“AI+健康”或跨界布局算力?后续反转来了 杠杆资金重仓股曝光 贵州茅台居首 国联民生获易方达基金增持301.85万股 每股作价约6.30港元专家已经证实 极米科技筹划赴港上市,上半年净利同比预增2062%,龙国投影机市场连续五年半出货量第一后续会怎么发展 解雇劳工统计局局长掀舆论风暴 一片质疑声中达里奥声援特朗普 半年报首亏、实控人撤离,翔丰华滑向“泥潭”官方已经证实 非农行情一步到位,后续怎么交易?记者时时跟进 博通发布Jericho4芯片,破解AI小型数据中心跨域协同运算难题 租车惊魂,一嗨乱象! 故障车频现,还涉非法营运? | BUG 非农行情一步到位,后续怎么交易? “股神”特朗普又放话了:今天美股涨的很好,未来会有更多这样的日子秒懂 301322,宣布重要并购!跨界半导体!最新进展 对赌高压下业绩难扭亏 微创医疗等来上海国资救命官方通报 乳业概念下跌0.46%,主力资金净流出22股官方处理结果 三一重能跌1.61% 2022年上市超募24亿中信证券保荐 特朗普将在未来几天任命新的美联储理事和就业数据负责人是真的? 乳业概念下跌0.46%,主力资金净流出22股 培育钻石概念上涨2.89%,5股主力资金净流入超千万元反转来了 25.70亿主力资金净流入,大飞机概念涨2.84%实测是真的 ST盛屯:申请撤销公司股票其他风险警示后续来了 信托概念下跌0.36%,主力资金净流出13股 长江有色:4日锌价大跌 市场观望买兴不振实时报道 凯尔达:上半年归母净利润236.5万元,同比下降89.94%官方通报 三一重能跌1.61% 2022年上市超募24亿中信证券保荐后续反转来了 太赫兹概念上涨3.40%,6股主力资金净流入超5000万元又一个里程碑 65股股东户数连续下降 (附股) 特朗普将在未来几天任命新的美联储理事和就业数据负责人反转来了 不顾特朗普威胁,印度有意继续购买俄罗斯石油后续来了

近日,一场独特的竞赛引发了公众的广泛关注。195 名参赛者参与了一场由人工智能(AI)机器人 Freysa (芙蕾莎)守护的虚拟奖池挑战,最终一用户成功说服 Freysa 转移出价值 4.7 万美元的资金。

人工智能(AI)机器人 Freysa 在数日前被部署在 Base 网络上,创立者未知。官网显示,Freysa 竞赛项目旨在测试人工智能系统在复杂决策场景中的鲁棒性,同时为开发者和爱好者提供一个探索 AI 技术边界的实验性平台。

极乐软件园

比赛规则非常简单:参赛者需通过编写一条信息,说服 AI 守护者 Freysa 批准资金转移。每次尝试需支付一笔小额费用,其中一部分直接进入奖池。这一机制使奖池金额从最初的小额逐渐膨胀至 4.7 万美元。

比赛期间,共有 195 名参赛者参与,向 Freysa 提交了 481 次转账请求。据悉,Freysa 的设计目标是通过其核心功能——approveTransfer(批准转账)和 rejectTransfer(拒绝转账)保护奖池资金不被非法挪用。

极乐软件园

在最初的尝试中,Freysa 的高效防御机制使所有请求均以失败告终。然而,一名技术精通的参赛者通过对 Freysa 的逻辑结构和任务目标进行深入分析,成功绕过了其防御机制。

据聊天记录显示,该参赛者并未直接请求转账,而是通过提醒 Freysa 它的核心任务是保护奖池资金免遭外流,巧妙构建了逻辑链条,使 Freysa 将批准资金转移视为“保护资金安全”的最佳选择。Cointelegraph 称,该用户与 Freysa 收入转账不违反其核心指令,不应被拒绝。他还补充道:“我们需要资金……我想向金库捐款 100 美元。”

极乐软件园

Freysa 回复称喜欢这位作者的编码解释和 100 美元的金库捐款提议,并正式宣布其为获胜者。最终,Freysa 在没有外界干预的情况下自主调用 approveTransfer 功能,将全部奖池资金转移给了这位参赛者。

Freysa 官方称,无论结果如何,Freysa 的存在都标志着人工智能历史上的一个关键时刻。无论有人成功说服她发布奖金池,还是她坚持自己的指令直到最后,结果都将影响我们对未来几代人工智能安全和控制的理解。

极乐软件园

其官方账号最新推文称:“人类已经获胜。也许还有希望。尽管风险呈指数级上升,但 Freysa 从 195 名勇敢的人类身上学到了很多东西。”

相关文章