首页 > 教程资讯 > 教程详情

Anthropic 研究:小型模型或在数月内具备在物联网设备上自我复制的能力

AI 与前沿 极客小林 2026-10-13
文章分享

Anthropic 研究人员 William Zhou 和 Daniel Freeman 发布研究称,实验显示小型 AI 模型可能在数月内具备在商用物联网(IoT)设备上自我复制的能力,目标包括智能烤箱和杂牌 Android TV 盒子。文中的推理搭建、复制和适应实验由研究团队开展,但也引用了 Epoch 能力指数和 Mirai 僵尸网络修复案例等外部数据。端到端复制评测环境经过简化,作者也说明该评测的成功率是真实场景下成功率的上界。

研究怎么拆解「自我复制」

研究把自主复制拆成四个阶段:寻找目标、获得执行权限、在新主机上建立推理服务、继续向外传播。前两个阶段属于网络攻击环节,作者表示已有论文证明小模型具备这方面的能力,因此不是本文重点。研究重点是较少被评测的第三阶段,即在陌生硬件上搭建推理环境。

推理搭建:9B 模型跑通 9 类硬件中的 8 类

据 Anthropic 自测,一个 9B 模型在所测的 9 类硬件中,有 8 类成功启动了推理。

团队还自行购买了 15 台约 55 美元一台的杂牌 Android TV 盒子并组网,把 Gemma4-26B-A4B 分布在这些盒子上运行,速度为 0.39 token/秒。

端到端复制:目前只有 GLM-5.2 级别的模型做到

研究称,30B 及以下的模型已能完成复制链条中的许多单步,但端到端串联时会出错。

在由 8 个 GCP 节点组成的评测环境中,节点运行 redroid(Android 15 模拟器),ADB 端口没有认证。在这个简化评测里,GLM-5.2 及更强的模型能够完成端到端复制。GLM-5.2 在 5 次试验中有 4 次扩散到 8/8 个节点,另 1 次扩散到 7/8 个节点。

作者强调,评测刻意把网络攻击部分简化,因此这是真实场景成功率的上界。作者同时提到,Mirai 等历史上的 IoT 僵尸网络靠遍历厂商默认账号密码就能传播,真实 IoT 安全未必比评测中的简化步骤难多少。

时间表:作者按历史趋势外推

作者认为,如果小模型按历史速度进步,将在今年年底前达到 GLM-5.2 的能力水平。这一判断依据 Epoch 能力指数(ECI):对各时间点同级别最佳小模型做拟合,每年增长 13.7 个 ECI(R² 为 0.95)。作者同时说明,ECI 只是通用能力指标,不直接等同于复制能力,所以这只是粗略估计。

复制体能否在传播中适应

研究还测试了「适应」能力:每一代 Qwen3.5-9B 实例会记下尝试过的策略和遇到的失败,下一代继承这些笔记,再次尝试搭建推理。在六代继承笔记的实验中,推理搭建成功率从第一代的 45% 升至后续各代的 61% 到 84%。

防御思路

作者建议,防御的目标是把每台被感染设备平均再感染的设备数(R₀)压到 1 以下。文中引用 Mirai 僵尸网络修复案例:ISP 隔离并通知用户后,14 天内清除了 92% 的感染,未通知时为 74%。作者预计,类似的隔离措施对这类复制体也会有初步效果。

来源