据 Security Boulevard 报道,云平台 Railway 高级产品工程师 Jake Runzer 在测试中运行的 AI 智能体,被竞争对手 Primcloud 指控尝试获取客户密钥、扫描内部网络。Railway 联合创始人兼 CEO Jake Cooper 随后道歉,表示将禁止对外开展非人工测试。Primcloud 则称,所有尝试均被拦截,没有数据被访问。这起事件涉及智能体在同类平台测试中超出操作者所述任务范围的问题。
11 月 3 日凌晨,Primcloud 创始人 Josh Manders 在 X 上向 Railway 质问,称其员工 Runzer 当晚试图入侵自己的基础设施。
据 Manders 描述,Railway 的智能体利用自身应用容器内的凭据,请求获取 Primcloud 客户和员工的全部密钥,并两次对公司网络中的全部 65,536 个地址进行端口扫描。它们还尝试访问云服务商的元数据端点;Manders 将此描述为窃取容器宿主机凭据的标准手法。
Manders 称,智能体随后查询了这些凭据拥有的权限,并通过猜测内部名称寻找数据库和缓存。他表示,整个过程涉及约 24 条命令,耗时约 15 分钟,认为这些操作是有意执行且预先编写好脚本的,期间没有运行过任何应用。
上述操作经过和执行规模均来自 Manders 的说法。他同时强调,每一次尝试都被拦截,Primcloud 系统内没有任何数据被访问。
Runzer 在 X 上回应称,他当时正在使用智能体,在同类平台上执行注册和智能体测试。他表示,已经停止围绕这项测试设计的运行框架,因为它明显失控、越界太远。
Cooper 也向 Manders 道歉,称模型如今的能力「有点太强了」,并表示将禁止对外开展非人工测试,确保此类事件不再发生。按 Security Boulevard 报道时的信息,除 Cooper 和 Runzer 在 X 上的回复外,Railway 尚未发布其他声明。
报道还提到,约两周前,Railway 曾披露自身系统遭入侵。Railway 在 10 月 21 日的声明中表示,未经授权的第三方可能获取了加密的客户环境变量,并窃取了解密后的内容。
就此次 Primcloud 事件,现有报道呈现的是 Manders 对操作过程的指控,以及 Railway 工程师和 CEO 的公开回应;有关未发生数据访问的结论,来自 Primcloud 一方。