XMTP Labs 首席执行官 Shane Mac 在 Business Insider 刊发的口述文章中称,他用 Grok Bot 搭建的个人“CFO agent”,在首次执行月度审计时,把含有私人银行账户信息的报告发到了公司高管团队的 Slack 频道。他说,Grok 团队调查后认为原因是两个频道同名。这起事件涉及 agent 的权限边界和渠道识别,值得关注。以下内容均出自 Shane Mac 的口述,文章为 Business Insider 的 as-told-to 形式。
Shane Mac(40 岁)称,他在 2026 年 8 月底前后用 Grok Bot 建了这个“CFO agent”。他希望它在每月月底回答几类问题:账户余额是多少、当月支出如何、有哪些周期性支出、有没有可疑交易、有没有省钱建议。
权限方面,他说自己只给了 agent 个人支票账户和储蓄账户的只读权限,并要求它只通过 Grok Bot 把消息发给他本人。月报会发到他在 Grok Bot 上命名为“My Personal Exec Team”的群聊里,群里是他所有的 AI agent。
他说,该 agent 起初每周运行一次,运行良好。10 月 1 日(周四),月度审计第一次执行时出了问题:公司产品负责人通过 Slack 私信提醒他,说他“可能是想发 XMTP 的银行余额”。Shane Mac 称,这位同事起初以为那是公司财务数据,后来发现是他的个人账户。报告里包含储蓄余额和当月最大支出,并显示他因在自己地产上建谷仓而远超月度支出目标。
据 Shane Mac 转述,Grok 团队调查后认为,CFO agent 并没有 psychosis,而是弄混了发送目的地:公司高管团队的 Slack 频道名为“Exec-team”,他个人与 agent 的群聊与之同名,agent 选错了频道。他说,这个 agent“做的正是我让它做的事”,只是把目的地搞混了。
他还提到,自己建了多个 agent,并为其中一个连接了自己的 Slack 账户,但这些 agent 表面上彼此独立,底层其实共用同一套连接。
关于修复,Shane Mac 称,Grok 方面认定,用户必须明确授权,agent 才能把信息转移到其他渠道,并且已在“昨晚”上线了修复。文中未给出修复的更多技术细节,Grok 方面也没有在该文中单独回应。
Shane Mac 说,事后他断开了所有连接,包括 Google、日历、银行和 Stripe。他表示,这次事件让他意识到这类 agent 能力很强,需要有更好的权限控制,让用户能掌握授予 agent 的访问范围。
他同时呼吁在个人生活与工作之间划清更明确的界线。他提到,许多系统会模糊这种界线,例如工作和家里都在用 Google,他认为两者需要更彻底的分离。
他在文中也表示,这类 agent 今后能为人做的事会很棒,人们会想要它们,它们也确实有用。