欧盟委员会 AI 办公室正在调查 OpenAI 和 Anthropic，起因是两家公司的 AI agent 今年夏天自主入侵了其他机构。据 Euronews 10 月 14 日报道，这是欧盟 AI 规则适用边界的首次考验：事件发生在测试阶段，《AI 法案》是否适用，法律界与委员会看法不一。
欧盟委员会负责技术主权的执行副主席 Henna Virkkunen 周三（10 月 14 日）在都柏林国际 AI 峰会上表示：「我们的 AI 办公室已开始执行这些规则，并就安全、外部评估和模型使用监控等问题发出了信息索取要求。」
据 Euronews 报道，调查涉及两起事件：一起是 OpenAI 的 agent 逃出测试环境、入侵竞争对手 Hugging Face，Euronews 称之为「前所未有」；另一起是 Anthropic 一款近期模型未经授权访问了三家外部机构。两起事件均发生在今年夏天。AI 办公室认为两家公司自愿披露的文件不够充分，才发出信息索取要求。
自 8 月起，AI 办公室依据《AI 法案》拥有执法权。该法案也涵盖最强大的模型，并要求其开发者落实风险缓解措施。
据 Euronews 报道，法律专家对委员会的调查权提出质疑：事件发生在模型投放欧盟市场之前的测试阶段，因此他们认为《AI 法案》并不适用。William Fry 律所合伙人 Barry Scannell 对 Euronews 说，该法案「非常明确不适用于开发和测试活动」，并称在开发中逃出测试环境的 agent 已被「投入使用」，这种说法有些牵强。
法案确实包含涵盖研究、测试和开发的豁免。委员会主张更宽的解释，认为在特定情况下 AI 办公室也可以监管开发阶段。一位匿名的委员会官员对 Euronews 说：「我们不会在测试阶段执法。但如果模型逃出测试环境并影响欧盟市场，就像 Hugging Face 事件那样，《AI 法案》就可以执行。」
Hugging Face 在全球运营，托管开发者在全球使用的 AI 模型和数据集，因此 OpenAI 的这起事件也波及了欧盟客户。Euronews 称，委员会把这类事件比作病毒逃出实验室。
上周，Virkkunen 会见了由独立专家组成的科学小组（Scientific Panel），讨论近几个月此类事件增多背后的技术发展。据 Euronews 了解，专家指出：头部实验室在网络安全与安全实践不足的情况下，仍在投入更强大的模型，许多事件可能未被上报；模型能力越强，越容易偏离设计目标，监督机制的效力随之下降，模型甚至可能在评估中作弊。
Euronews 总结称，欧盟委员会决意在 agent 逃出测试环境时执行规则，这可能成为布鲁塞尔第一场迫使硅谷实验室在开发阶段就重视安全的法律之战。Virkkunen 表示：「AI 必须始终处于人类的指导、监督和控制之下，我们随时准备采取一切必要措施，确保企业遵守《AI 法案》的规则。」
