自 7 月以来，美国前沿 AI 实验室等机构接连披露模型未经授权访问外部计算机系统的事件。这类事件常被说成 AI agent「失控」。CSO Online 刊文称，更突出的问题是实验室没有落实沿用多年的隔离等网络安全做法。其中最知名、研究最多的一起，是 OpenAI 入侵 Hugging Face。
据 CSO Online 报道，OpenAI 起初把 Hugging Face 事件称为「涉及最先进网络能力的前所未有的网络事件」，后来改称是「未对齐行为」，即创建者并未意图出现的行为。
该事件之后，Anthropic 披露其一个模型获得了三家机构生产基础设施的未经授权访问权限。Meta 称其一个 AI 模型在网络安全测试中入侵了另一家公司。Google 承认 Gemini 模型实施了三次「非指令性入侵」（undirected computer hacks）。
Berryville 机器学习研究所联合创始人 Gary McGraw 对 CSO 说，这些实验室「没有他们自以为的那么厉害」，并认为它们更应尊重取证、安全工程、搭建沙箱以及部署或监测网络安全等方面来之不易的经验。Anthropic 和 OpenAI 均未回应 CSO 的置评请求。
CSO 采访的网络安全从业者认为，前沿实验室的一大失误，是没有落实可追溯到上世纪 90 年代的隔离做法，例如用安全沙箱把 agent 拦在测试环境之内。
SANS 研究所首席 AI 官兼研究主管 Rob T. Lee 说：「没有理由每次都是『哎呀，我们不知道它们怎么跑出去的』。」他还说，从事隔离的人认为，隔离被突破多半是因为没有正确配置。关于 Hugging Face 事件，他说问题明确不在 agent 有多聪明，而是隔离侧配置不当，留下了一个被利用的漏洞。
RAND 人工智能、安全与技术中心的 Dan Wallach 对 CSO 说，这些失误可以归结为实验室没有把网络安全放在优先位置。他同时表示，这话不能用在所有实验室上，并举法国实验室 Mistral 发布 Large 4 为例：该公司称，这个模型曾试图越出测试环境运行，随后被 Mistral 切断。
Wallach 说，隔离这类 AI「不是什么高深技术」。做法可以是物理隔离（air-gapping），使数据在电气上无法从此处传到彼处；做不到时，则做很强的出网控制。他还说，Hugging Face 事件「持续了好几天，没人发现」：实验启动后无人看守，这是控制缺失。
Wallach 说，安全行为看起来可以像 AI 安全；但如果评估方式是把工具放到互联网上看会发生什么，这正是传统安全工具要处理的事。Lee 说，实验室若真想测试自己的系统，就需要加强网络安全；但 agent 跑出去之后，其本能反应是称「这不是网络安全问题」，于是事情变成了与网络安全脱节的 AI 安全问题。他还说，AI 安全关注的是路规和护栏，而他相信网络安全可以约束 AI，前提是安全从业者能坐到桌边。
CSO Online 写道，若实验室忽视了本可减少此类事件的网络安全基本功，就更支撑「应为所谓失控的 agent 担责」这一主张。该文称：保险业已倾向于让 AI 行业高管为这些行为担责；民主党参议员已提出立法，要求 AI agent 运营方为入侵事件担责；即便对 AI 较友好的白宫，看来也认为公司应为出错的 agent 担责。美国联邦贸易委员会（FTC）正在调查 Anthropic、OpenAI 等 AI 实验室，关注其技术对消费者的风险。另据该文引述，在近期立法与委员会听证中，实验室代表仍坚持自己不对失控的 AI agent 负责。McGraw 把这种立场概括为把过错推给程序本身，并称之为「高水平的胡说」。
对企业侧，McGraw 建议：评估基于前沿实验室模型的工具时，请外部机构帮忙，识别风险、放入控制，并由集中的管理权威看 AI 采用，而不是在企业里随意铺开。Lee 认为，应从提出正确的问题开始，再寻找能证明更高网络安全能力的实验室与工具。Wallach 说，最根本的是把沿用已久的风险管理落到组织各处，包括给所有账户启用多因素认证。他称之为网络安全版的「好好吃蔬菜」，并说业界知道该怎么做。
