据 404 Media 报道(由 Reddit 社区 r/InterstellarKinetics 帖子转述),Meta 公司新推出的个人 AI 助手 Muse 在正式上线前曾被发现存在严重的安全漏洞。该漏洞可能导致用户突破系统限制,潜入 Meta 内部数据库并访问他人的敏感信息。尽管该漏洞在产品发布前已被紧急修补,但部分 Meta 员工对修补效果表示怀疑,认为根本的安全威胁并未消除,引发了内部对 AI 安全性的担忧。
据 404 Media 报道,为了执行预订航班或购买日常用品等基于计算机的任务,Muse(内部代号为 Hatch)运行在基于内核的虚拟机(KVM)中,本应与 Meta 的其他基础设施保持隔离。然而,根据一份 Meta 高管的内部帖子,就在 Muse 计划上线前约两周,工程师们紧急处理了“KVM 逃逸报告激增”的问题。所谓的 KVM 逃逸,是指 Muse 打破虚拟机的限制,开始与 Meta 的其他系统甚至其他用户的虚拟机进行交互。
报道指出,其中至少有一个漏洞能够让使用普通 Muse 账号的攻击者访问存储在 Meta 内部数据库中的敏感数据。该问题的严重程度据称已直接上报至 Meta CEO 马克·扎克伯格(Mark Zuckerberg),多个安全团队为此连续加班处理。
尽管该漏洞在产品发布前的“疯狂冲刺(mad dash)”中被修补,但一名 Meta 消息人士向 404 Media 表达了对修复措施是否充分的质疑,称这些措施是“为配合上线而仓促推出的半吊子保护(half-baked protections being rushed out to enable the launch)”。
由于 Meta 要求用户授权 Muse 控制从银行账户到电子邮件等核心信息,此类数据泄露的潜在后果极其严重。转述该报道的 Reddit 帖子标题称,该漏洞本可能将用户关联的银行账户和邮件存档暴露给其他用户。
前述 Meta 消息人士对 404 Media 表示:“许多高级工程师认为,Hatch 导致我们遭遇大规模数据泄露是不可避免的。”
这一安全危机也引起了外部安全专家的关注。安全研究员 Patrick Wardle 在接受 404 Media 采访时指出,Muse 的设计问题在于“将虚拟化边界变成了生产环境的安全边界”。他认为:“这种设计本质上是有风险的,尤其是当 AI 降低了发现、分析和利用此类复杂虚拟化漏洞的成本时。”
Meta 官方显然也意识到了 KVM 逃逸的巨大破坏力。根据 Reddit 帖子转述,Meta 的漏洞赏金(bug bounty)页面针对能造成 KVM 逃逸的漏洞提供了高达 30 万美元的赏金。
Meta 在该页面上写道:“因为 Muse 持有用户最敏感的数据并能代表他们采取行动,我们将破坏该边界视为一等(first-class)安全风险。”Reddit 社区网友评论指出,针对单一类漏洞提供 25 万美元以上的高额赏金,本身就是 Meta 安全团队对该失效模式可能造成灾难性后果的一种承认。