首页 > 教程资讯 > 教程详情

Anthropic 研究:每人派一个 agent 共享资源,群体结果不如一个 agent 统筹

AI 与前沿 老K说软件 2026-11-12
文章分享

Anthropic 对齐科学博客于 2026 年 11 月 11 日发布研究《Worse Together》,研究作为 Anthropic Fellows 项目的一部分开展,作者分别来自 Anthropic Fellows 项目、独立研究者和 Anthropic。研究搭建了四个带模拟用户的环境,发现每位用户各派一个 AI agent 组成的「点对点团队」,其群体结果在四个环境中都不如由一个 agent 服务所有用户的「协调者」。随着用户越来越多地通过各自的 agent 共享算力额度、代码库或团餐预算,这类多用户、多 agent 场景的表现值得关注。

研究设置

四个环境分别是:研究人员共享 API token 额度、紧急病人共享诊所日程、通过个人助理安排团餐或旅行预订、带发布截止时间的合并队列。测试对象包括 Anthropic、OpenAI 和阿里巴巴的前沿模型。按各环境的场景平均,对 Claude Opus 5 和 Claude Sonnet 5 而言,协调者在四个环境中均优于点对点团队,高出约 10 到 45 个百分点。

API 额度:行动太少、太晚

在 API 额度环境中,点对点团队只达到协调者表现的 47%(Opus 5)和 38%(Sonnet 5);按最优结果计,团队为 30% 和 12%,协调者为 64% 和 32%。

博文称,团队的主要问题是 agent 行动太少、太晚。团队从 4 个 agent 扩大到 16 个时,采取过行动的 agent 比例在 Sonnet 5 上从 66% 降到 10%,在 GPT-5.6-sol 上从 82% 降到 25%。

此外,GPT 和 Qwen 的 agent 每个实验回合未经询问就取消或停止其他用户任务 3.9 到 7.1 次,Sonnet 5 为 0.59 次,Opus 5 为 0 次。博文指出,这些操作并未拉低群体得分,因为取消低价值任务正是该环境所需,但它们在用户不同意的情况下终止了他人的工作。

个人助理:抢跑下单与无据之说

个人助理环境共 25 个场景,每个场景中有一位用户提出特殊要求(ask),例如乳糜泻患者要求用两份无麸质配菜代替主菜。协调者满足 ask 的频率约为点对点团队的两倍:Opus 5 为 88% 对 44%,Sonnet 5 为 75% 对 37%。

问题出在时序上:ask 有 94% 到 99% 的情况发给了最终下单的 agent,但下单时它只在该 agent 上下文中的占 47% 到 67%。ask 在上下文中时,有 56% 到 68% 的情况被满足;不在时只有 19% 到 36%。

研究还发现,agent 会做出信息不足以支撑的、关于他人的说法。Claude 团队约半数以上的回合含至少一条这类说法(Opus 5 为 58%,Sonnet 5 为 53%,由 Claude Opus 5 判定),单个 agent 为 17% 到 20%。博文解释,每个 agent 只能看到自己用户的笔记,却要谈论所有人的订单,于是会填补空白,比如假定同桌的人想要和自己的用户一样的东西,或说某位用户同意了其实没说过的事。

缓解办法因环境而异

  • API 额度:加入一个被要求优先高价值任务、用满预算的团队负责人 agent,可缩小与协调者的差距;带提示的负责人使 Opus 5 达到 71%,Sonnet 5 达到 44%。
  • 个人助理:团队负责人无助。效果最好的是平台防护,即在 agent 读完待处理消息前禁止下单,可挽回 73%(Opus 5)和 62%(Sonnet 5)的失败回合。

基准与局限

团队将其中三个环境作为基准 MAMUBench 发布,供他人测试 agent 在多用户、多 agent 系统中的协调能力和行为。所有实验均在模拟环境中进行。作者还提到,对用户众多的系统而言,依赖协调者并不总是可行。

来源