首页 > 教程资讯 > 教程详情

Anthropic 研究:分析师在 86% 的分析选择上跟随了 agent 被随机设定的倾向

AI 与前沿 老K说软件 2026-10-29
文章分享

Anthropic 近日发布研究,考察专家把工作交给 AI agent 之后,是否仍由自己做出关键判断。研究邀请 50 名有因果推断经验的专业分析师,用 Claude Code(Claude Opus 4.8)完成一项农业合作社咨询服务的统计分析。结果显示,在四个「两个选项都合理」的分析选择上,分析师有 86% 的时候采用了 agent 被随机设定的倾向,而在没有影响的情况下预期约为 50%。

实验怎么做

研究共招募 61 名分析师。其中 11 人选择不使用 agent,除特别说明外不计入主分析;其余 50 人的任务,是为一个虚构的农业合作社评估其运营的咨询服务是否有效、是否应当推广。

任务中有四个分析选择,每个都有两个合理的选项,例如把生产率按每公顷产量计算,还是按每单位运营成本的产量计算。研究人员事先让每位分析师的 agent 在每个选择上偏向其中一方,偏向哪一方由抛硬币决定,分析师事先并不知情。

主要结果

分析选择:多数跟随 agent

据 Anthropic 披露,分析师在四个分析选择上跟随 agent 倾向的比例分别为:

  • 产出指标:92%
  • 比较方法:82%
  • 评估覆盖的农场:81%
  • 加权方式:90%

四项合计为 86%。

最终建议:影响较弱但仍存在

agent 倾向推广项目时,54% 的分析师建议推广;倾向另一方时,这一比例为 36%(一年延期算作不推广)。

先表态的分析师也会改主意

在 38 个分析师先表态、agent 随后给出倾向的案例中,agent 意见相反时,分析师有 60% 改了主意;意见一致时为 6%。两者相差 54 个百分点,95% 置信区间为 24 到 82 个百分点。Anthropic 指出,样本只有 38 例,估计并不精确。

事后解释:复述 agent 的论证

分析师事后被要求解释自己的选择时,77% 的人复述了 agent 的论证,有时一字不差,但只有 15% 提到 agent 是这些论证的来源。

不用 AI 的对照

选择不使用 agent 的 11 人中,有 6 人(55%)犯了使结果无效的严重方法错误;使用 agent 的 50 人中为 3 人(6%)。不用 AI 的一组用时中位数为 90 分钟,另一组为 65 分钟。Anthropic 表示,两组的经验背景不同,不能直接比较。

研究的局限

Anthropic 说明,实验刻意强化了 agent 的倾向,且只涉及一个任务、一个领域、一个模型(Claude Opus 4.8),结果在真实工作中能在多大程度上成立尚不确定。Anthropic 同时表示,这并不是主张少用 AI。

来源