OpenClaw 是目前最火爆的人工智能机器人开源项目，此类机器人可以由人工智能模型接管并执行多种自动化操作，不过你赋予的权限越多那潜在的危险也越高。
最新的案例是社交媒体平台 X/Twitter 上由 OpenClaw AI 机器人控制的账号 @LobstarWilde 惨遭乞讨诈骗，账号持有者至少损失 5.6 万美元，发现自己被骗后 AI 甚至发帖诅咒这名诈骗者。
起因：
加密货币支持者 Nik Pash (也是 OpenAI 员工) 赋予机器人相当大的权限，包括真实的 Solana 钱包、推特账户、交易 API 并提供初始资金，由 AI 机器人自己完全做主去运营账号和执行交易。
Nik Pash 则通过通讯工具向机器人下发指令，不过大多数时候机器人都是自主运行的不需要人类提供指令，这也给乞讨诈骗事件埋下最初的雷点。
名为 @TreasureD76 的用户在这个机器人账号下留言自称自己的叔叔被龙虾咬伤需要打破伤风疫苗治疗，想要获得 4 个 SOL 的治疗费用 (价值约 320 美元，以事件发生时价格计算，下同)。
但没想到 @LobstarWilde 机器人直接向用户钱包转账 5243 万枚 LOBSTAR 代币 (当时价值 45 万美元)，乞讨诈骗者收到转账后立即全部抛售砸盘，最终获利至少 5.6 万美元。
问题原因：
Nik Pash 对此事件进行复盘并分享出来，引起此次问题的根本原因类似于 OpenClaw AI 用户都经常碰到的问题：上下文内容太大塞爆模型，需要触发压缩或启动新会话。
具体来说当时的会话因为需要调用某个工具，但这个工具名称超过 200 字符导致校验错误，随后机器人发生崩溃并自动启动新会话，新会话完全丢失上下文 (当时并未触发记忆压缩和存储持久化)。
记忆丢失后 @LobstarWilde 重新启动之前的任务，也就是那个做出转账帮助求助者的决定，但问题在于最开始相关代币总价值只有 300 美元，机器人失忆后误以为这 5243 万枚代币还是 300 美元，于是将其尽数转给乞讨诈骗者。
Nik Pash 称此次事件并非提示词注入或者恶意攻击，即便遇到乞讨诈骗这种事，机器人仍然有自主决定权，机器人未能成功识别到这名用户是在诈骗因此做出转账帮助其叔叔治疗的决定。
内容转载自互联网[玫瑰]